Lesswrong papers / Статьи с Лессронга: Нижняя строчка

Есть две запечатанные коробки А и Б. Только в одной из них лежит алмаз. Есть множество самых разнообразных признаков и тестов на предмет того, лежит ли в коробке алмаз; но среди них нет стопроцентно надежного. Например на одной из коробок стоит синяя печать, а мне известно, что такая печать чаще встречается на коробках с алмазами, а не на пустых. Или одна из коробок блестит и у меня есть подозрение - хотя я не уверен - что коробка без алмаза не должна блестеть.

Remlin 12.06.14 в 10:40

Теперь предположим, что существует умный аргументатор, который держит в руках листок бумаги и который говорит владельцам коробок А и Б: "Предложите цену за мои услуги и для того, кто предложит больше, я докажу, что его коробка содержит алмаз, так что ее можно будет продать подороже." Владельцы коробок предлагают цены, владелец коробки Б предлагает больше, и аргументатор принимает его предложение.

Remlin 12.06.14 в 16:25

Умный аргументатор начинает с того, что организовывает свои мысли. Сначала на нижней строчке бумаги он пишет "Таким образом, в коробке Б находится алмаз!" Потом, в начале он пишет "На коробке Б стоит синий штамп," ниже "Коробка А сияет", потом "Коробка Б легче, чем коробка А", и еще много различных признаков; при этом аргументатор отбрасывает все признаки, свидетельствующие, что алмаз в коробке А. Далее он приходит ко мне и зачитывает по памяти свой листок: "На коробке Б синий штамп, коробка А блестит" и так далее, завершая все фразой "Таким образом, алмаз в коробке Б."

Remlin 12.06.14 в 16:29

Но задумаемся: в момент, когда спорщик пишет свое заключение, в момент, когда чернила ложаться на бумагу, сцепленность через свидетельство этих чернил с физическими коробками становится фиксированной.

Remlin 12.06.14 в 19:56

Тут может помочь представление множества миров - ветвей Эверетта или дубликатов Тегмарка - внутри которого есть некоторая объективная частота с которой коробка А или Б содержит алмаз. И сходным образом есть подмножества "миры с блестящей коробкой А", где алмаз в Б; и есть подмножество "миры с блестящей А и Б с синим штампом", где Б содержит алмаз.

Remlin 12.06.14 в 19:58

Чернила на бумаге сформированы кривыми шансов, которые похожи на этот текст: "И таким образом, в коробке Б лежит алмаз." Если так получилось что вы воспринимаете текст буквально, вы можете запутаться и решить, что это чернила как-то определяют наличие алмаза в коробке Б. Субъекты, которым сказали говорить цвет картинки, а потом показали написанное красным шрифтом слово "зеленый", часто говорят "зеленый", не красный. Тут помогает быть неграмотным, чтобы не обманываться формой чернил.

Remlin 12.06.14 в 20:01

Для нас настоящий смысл вещи в ее сцепленности с другими вещами. Рассмотрим снова собрания миров, ветви Эверетта или дубликаты Тегмарка. В момент, когда все умные аргументаторы во всех мирах пишут нижнюю строку в своих бумагах - предположим, что это происходит в один и тот же момент во всех мирах - корреляция между чернилами и коробками фиксируется. Аргументатор пишет нестираемыми чернилами; их нельзя изменить. Коробки тоже не изменятся. Внутри множества миров, где чернила говорят "И таким образом коробка Б содержит алмаз" уже есть определенный процент миров, где бриллиант в коробке А. И положение дел не измениться, что бы не было написано в строчках выше.

Remlin 12.06.14 в 20:04

Так что сцепленность через свидетельство для чернил зафиксировано и я оставляю вам решать, что это может быть. Возможно обладатели коробок которые верят, что лучший выбор, который они могут сделать это нанять оценщиков; возможно владельцы коробок те, кто боятся своих собственных нехваток возможностей предложить большую цену. Если обладатели коробок сами не понимают признаки и тесты, тогда чернила будут совершенно не сцеплены с содержимым коробок, хотя смогут рассказать вам о финансах владельцев и их привычках сорить деньгами.

Remlin 16.06.14 в 16:47

Теперь рассмотрим другого человека, который по-настоящему любопытен и сначала выписывает все отличительные признаки обоих коробок на листе бумаги, а потом применяет свои знания и законы вероятности, после чего выписывает на нижней строчке: "Таким образом я оцениваю вероятность того, что коробка Б содержит алмаз, в 85%". Свидетельством чего является данная запись? Изучение цепи причин и следствий ведет к этим чернилам на этой бумаге, я нахожу что цепь причинности проходит через все признаки и тесты коробок и зависима от них; для миров с разными признаками на нижней строчке будет стоять разная вероятность.

Remlin 16.06.14 в 16:51

Так что записи любопытного исследователя сцеплены с признаками и тестами, а, следовательно, и с содержимым коробок, в то время как записи умного аргументатора являются свидетельством только о том, кто предложил большую цену. Это огромная разница в том, о чем говорят записи, хотя тот, кто будет судить поверхностно, может подумать что записи одинаковы.

Remlin 16.06.14 в 16:53

Ваша эффективность как рационалиста определяется тем, каким методом действий вы руководствуетесь, когда пишете нижнюю строчку ваших мыслей. Если ваша машина издает необычный шум, когда вы тормозите, а вы не хотите принимать мысль, что тормоза требуют замены, вы можете решить поискать причины по которым машину не надо ремонтировать. Но вероятность того, что вы выживете в ветвях Эверетта или мирах Тегмарка - что мы примем за описание вашей эффективности как рационалиста - определяется алгоритмом, который решает для какого заключения вы будете искать аргументы. В этом случае настоящий алгоритм будет "Никогда не ремонтировать дорогие вещи". Если это хороший алгоритм, то все в порядке; если это плохой алгоритм, то что ж, увы. Аргументы которые вы подберете задним числом, выше нижней линии, ничего уже не изменят.

Remlin 16.06.14 в 16:57

Дополнение: это задумывалось как предостережение для вашего мышления, не как Полностью Универсальный Контраргумент против заключений, которые вам не нравятся. Можно ведь говорить "Мой оппонент - умный аргументатор", и если вы хотите сохранить те же убеждения, что были у вас и раньше. Самый умный аргументатор мира может сказать, что светит солнце, и все еще будет светло. Смотрите следующую статью по данной теме.

Remlin 16.06.14 в 17:00