Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Decoherence is Simple

Открытое письмо физикам:

Когда я ходил пешком под стол, мой отец, доктор физико-математических наук (PhD physicist) строго-настрого запретил мне копаться в делах физиков. Он утверждал, что бесполезно пытаться понять физику без формальной математики. Точка. Никаких исключений. Однако я уже читал научно-популярные книжки Фейнмана и он утверждал, что если действительно понимаешь физику, то ты должен суметь объяснить её не-физику. Я больше верил Фейнману, чем своему отцу, поскольку Фейнман получил Нобелевскую премию, а мой отец --- нет.

И только позже, когда я читал Фейнмановские Лекции, я понял, что мой отец рассказал мне всё просто и честно. Нет математики = нет физики.

По призванию я Байесианец, а не физик. И несмотря на запрет отца ковыряться в делах физиков, меня притягивали редкие, но возмутительные ошибки в использовании трех терминов: простой, фальсифицируемый и проверяемый.

Это введение я написал, чтобы вы не смеялись со словами: "Ну конечно я знаю, что означают эти слова!". Здесь присутствует математика. С последующего текста я переформулирую тезисы Убеждения в подразумеваемой невидимости (Belief in the Implied Invisible) в той степени, в какой они применимы к квантовой механике.

Давайте начнём с ремарки, которая заставила меня пойти по этому пути. Я видел несколько её версий. Сформулировать можно так:

Многомировая интерпретация квантовой механики постулирует, что существует огромное количество других миров, которые существуют параллельно нашему. Бритва Оккама требует, чтобы мы не плодили сущности сверх необходимого.

Справедливости ради следует отметить, что это говорят те же самые люди, которые впоследствии признаются:

Впрочем не все придерживаются такой интерпретации Бритвы Оккама. Кто-то заявляет, что её следует применять к законам, по которым работает модель, а не к числу объектов внутри модели.

Замечательно, что мы признаём существование противоположных аргументов и раскрываем обе стороны истории ---

Но предположим, вам требуется рассчитать простоту теории.

Исходная формулировка Уильяма Оккама гласит:

Lex parsimoniae: Entia non sunt multiplicanda praeter necessitatem.

"Закон скупости: сущности не следует умножать сверх необходимости."

Это совет качественный, не количественный. Недостаточно просто сказать, что одна теория кажется более простой, а другая кажется более сложной --- необходимо присвоить численное значение. А численное значение должно иметь смысл, его нельзя просто так придумать. Разница та же самая, что и между прикидкой на глазок, какие объекты движутся "быстро" и "медленно" и измерением скоростей.

Предположим, вы скажете: "Посчитай слова --- вот настолько и будет сложна теория."

Роберт Хайнлайн однажды заявил (в шутку, надеюсь), что "самое простое объяснение" всегда выглядит так: "Женщина, что живёт вниз по улице --- ведьма. Она сделала это." Всего десять слов --- не так много физических статей могут уложиться в этот норматив.

Есть два способа, которыми можно попытаться разрешить эту проблему

Во-первых, можно спросить: "Женщина, что живёт вниз по улице --- это что?". Только потому, что в русском языке одно слово обозначает какую-то концепцию, не означает, что концепция проста сама по себе. Предположим, вы говорите с пришельцами, которые понятия не имеют о ведьмах, женщинах или улицах --- сколько времени вам потребуется, чтобы объяснить свою теорию? Более того, предположим, что вы хотите написать компьютерную программу, которая реализовывала бы вашу гипотезу, а на выходе выдавала бы её предсказания --- какого размера была бы программа? Пусть задачей является предсказать временной ряд положений камня, который скатывается с холма. Если вы напишете подпрограмму, которая моделирует ведьм, то это не позволит точнее определить, куда укатится камень --- вы только раздуете свой код. Однако, вы обнаружите, что код обязательно должен будет включать подпрограмму для возведения чисел в квадрат.

Во-вторых, можно спросить: "Женщина, что живёт вниз по улице --- ведьма. И она сделала что?". Предположим, вы хотите описать некоторое событие так точно, насколько это возможно с учётом всех свидетельств --- и вновь, к примеру, ряд расстояния/времени для камня, который катится с горы. Вы можете предварить своё объяснение словами "Женщина, что живёт вниз по улице --- ведьма", но потом ваш друг спросит "что она сделала?" и вы ответите: "Она заставила камень прокатиться один метр после первой секунды, девять метров после третьей секунды...". И то, что вы предварили своё сообщение фразой "Женщина, что живёт вниз по улице --- ведьма" никак не помогло сжать остаток описания. В целом, пришлось послать сообщение больше, чем необходимо. Будет гораздо короче, если убрать часть с "ведьмой". С другой стороны, если у вас найдётся минутка поговорить о Галилео, получится значительно сжать следующие пять тысяч подробных временных рядов скатывающихся камней.

Если пользоваться первым способом, то в итоге получится нечто, что известно под названием сложности по Колмогорову или индукции по Соломонову. Если пользоваться вторым способом, то в итоге получится нечто, что известно как Минимальная Длина Сообщения.

Ах, так это что получается, можно выбирать среди определений простоты?

Нет, вообще-то можно доказать, что оба вида формализма в своих наиболее развитых формах эквиваленты.

А теперь, предполагаю, вы скажете мне, что оба формализма являются следствиями выражения "Оккам имел в виду подсчёт законов, а не подсчёт объектов."

Да, более-менее. В Минимальной Длине Сообщения до тех пор, пока вы можете сообщить своему другу точный мыслительный рецепт, при помощи которого можно получить временной ряд катящегося камня, безразлично, сколько усилий ему понадобится, чтобы следовать рецепту. В индукции по Соломонову, мы считаем биты в коде программы, а не биты RAM, которая программе потребуется во время исполнения. "Сущности" --- это строки кода, а не симулированные объекты. И, как я уже сказал, эти два вида формализма в конечном счёте эквивалентны.

Прежде чем я продолжу обсуждать детали формальной простоты, позвольте мне отвлечься и рассмотреть возражение.

И что? Почему нельзя изобрести свой собственный иной формализм? Почему мне вообще нужно обращать внимание на то, как вы решили вести дела в своей области? У вас есть какие-то экспериментальные свидетельства, что надо вести себя именно так?

Вообще-то да, верите вы или нет. Начну издалека.

Правило конъюнкции вероятностей гласит:

P(X,Y) ≤ P(X) .

Для любых высказываний X и Y, вероятность для высказывания "X истинно и Y истинно" меньше либо равна вероятности для высказывания "X истинно (неважно, истинно ли Y)" (Если это высказывание не кажется чересчур глубоким, позвольте заверить вас, что очень легко найти случаи, когда люди при назначении вероятностей нарушают это правило.)

Обыкновенно нельзя применять правило конъюнкции P(X,Y) ≤ P(X) напрямую к противоречию между взаимно исключающими гипотезами. Его можно напрямую применять только к случаям, где правая сторона уравнения строго следует из левой стороны. Более того, правило конъюнкции это не просто неравенство, в нём нет необходимого качества численных соотношений.

При этом оно даёт нам правило монотонного убывания вероятности: по мере добавления деталей в историю, где каждая деталь может быть истинной или ложной, общая вероятность истории монотонно снижается. Можно думать о вероятности как о сохраняющейся величине --- в мире её существует строго ограниченное количество. По мере увеличения деталей в истории количество возможных историй экспоненциально растёт, но сумма их вероятностей никогда не может быть больше 1. На каждую историю "X и Y" приходится история "X и ¬Y". А когда вы рассказываете только историю "X", её вероятность складывается из возможностей Y и ¬Y.

Если добавить десять деталей к X, каждая из которых может быть истинной или ложной, то такой истории придётся соревноваться с 2^10 - 1 прочими столь же детальными историями за бесценную вероятность. С другой стороны, если будет достаточно лишь сказать X, то можно сложить все вероятности за 2^10 историй.

((X и Y и Z и ...) ил (X и ¬Y и Z и ...) или ...) .

"Сущности", о которых идёт речь в Бритве Оккама, имеют одинаковую вероятностную стоимость, а потому мы предпочитаем теории, где их меньше.

Вообразите себе лотерею, в которой можно продать до миллиона билетов, каждый билет только один раз и к моменту розыгрыша распроданы все билеты. Ваш друг приобрёл один билет за $1 и кажется, что это плохая инвестиция, поскольку первый приз всего лишь $500 000. Но ваш друг говорит: "Ой, но давай рассмотрим альтернативные гипотезы 'Завтра кто-нибудь выиграет лотерею' и 'Завтра я выиграю лотерею'. Очевидно, что последняя гипотеза проще согласно Бритве Оккама, в ней участвует только один человек и один билет, а первая гипотеза более сложна --- в ней присутствует миллион людей и миллион билетов!"

Говорить, что Бритва Оккама учитывает только законы, но не объекты, не совсем правильно. В зачёт против теории идут сущности, которые необходимо явно упомянуть, поскольку по ним нельзя произвести суммирование вероятностей. Предположим, что вы с товарищем обдумываете потрясающий удар в бильярде. Вы знаете исходное состояние бильярдного стола, какие шары попали в лузы, но не способ, которым нанесли удар. Вы предлагаете теорию, в которой происходит десять столкновений между десятью разными шарами, а друг предлагает теорию, в которой только пять отдельных столкновений между пятью разными шарами. В зачёт против теорий пойдут не только законы, которые, по вашему мнению, руководят движением бильярдных шаров, но и все шары, которые должны будут оказаться в некоторых конкретных состояниях, чтобы предсказание модели оказалось правильным.

Если вы измерите температуру в гостиной и получите 22 градуса по Цельсию, нет смысла говорить: "Термометр, вероятно, ошибается. Температура комнаты гораздо более вероятно 20 градусов Цельсия. Ведь если учесть все частицы в комнате, то количество состояний, которые они могут занять, если температура действительно 22 °C, экспоненциально больше --- а это делает каждое отдельное состояние маловероятным". Неважно, какое именно состояние с температурой 22 °C реализовано в комнате, можно сделать одно и то же предсказание (для подавляющего большинства этих состояний), что термометр покажет 22 °C и, таким образом, вы не чувствительны к исходным условиям. Не нужно указывать точное положение всех молекул воздуха в комнате, а потому это не пойдёт в зачёт против текущего объяснения.

С другой стороны --- обратимся вновь к примеру с лотереей --- предположим, что ваш друг выиграл десять раз подряд. В этот момент следует задуматься. Гипотеза "мой друг выигрывает в лотерею каждый раз" сложнее, чем гипотеза "кто-то выигрывает в лотерею каждый раз", однако она предсказывает данные гораздо более точно.

В формализме Минимальной Длины Сообщения фраза "Только один человек каждый раз выигрывает в лотерее" в начале сообщения сжимает описание следующих десяти победителей. Можно добавить в конце "и этот человек Фред Смит". Сравните с "Первую лотерею выигрывает Фред Смит, вторую лотерею выигрывает Фред Смит, третью лотерею выигрывает ..."

В формализме индукции по Соломонову, априорная вероятность гипотезы "мой друг выигрывает в лотерею каждый раз" мала, поскольку программа, которая описывает лотерею, должна также явно выделить вашего друга. Но поскольку эта программа может предоставить более точное распределение победителей лотерей чем "кто-то выигрывает в лотерею каждый раз", то, согласно Теореме Байеса, она может преодолеть свою априорную невероятность и состояться как гипотеза.

Любая формальная теория Бритвы Оккама должна количественно описывать не только "сущности" и "простоту", но и "необходимость".

Формализм Минимальной Длины Сообщения определяет необходимость, как "нечто, что сжимает сообщения".

В индукции по Соломонову назначается априорная вероятность каждой возможной компьютерной программе, сумма таких вероятностей должна сходиться к единице. Этого можно добиться, используя двоичный код так, чтобы ни одна компьютерная программа не была префиксом к другой, например, содержала бы код остановки. Тогда априорная вероятность любой программы P просто равна 2^-L(P), где L(P) --- длина P в битах.

Программа P сама по себе может быть такой, которая получает на вход строку битов (возможно нулевой длины) и выдаёт условную вероятность, что следующий бит будет 1. Таким образом P становится распределением двоичных последовательностей. Таким образом, эта версия индукции по Соломонову для каждой строки даст смесь апостериорных вероятностей, где предпочтение будет отдано наикратчайшим программам, которые наиболее точно предсказывают строку. Суммирование по этой смеси даст предсказание для следующего бита.

В итоге нам необходимы Байесианские свидетельства --- больше удачных предсказаний или более точные предсказания --- чтобы отдать предпочтение более сложной гипотезе. Но это возможно. Тяжесть априорной невероятности не бесконечна. Если подбросить монетку четыре раза и каждый раз выпадет орёл, то вы не решите сразу же, что монетка всегда выпадает орлом. Однако, если это произойдёт двадцать раз подряд, вы будете уже очень серьёзно рассматривать эту гипотезу. Но что насчёт гипотезы, что монета падает циклами оррорр...? Это уже более странно, но после сотни бросков будет глупо отрицать такую гипотезу.

Химия утверждает, что в одном грамме водорода содержится шесть сотен миллиардов триллионов атомов водорода. Это удивительное заявление, но всё же было достаточно свидетельств, которые убедили физиков в целом и вас в частности, что это высказывание истинно.

Теперь задайте себе вопрос, сколько свидетельств потребовалось бы вам, чтобы поверить в теорию с шестью сотнями миллиардов триллионов отдельных физических законов.

Почему априорная вероятность программы по формализму Соломонова не включает в себя меру использования RAM или общее время исполнения программы?

Простой ответ таков: "Потому что пространственные и временные ресурсы, которые использует программа, не являются взаимно исключающими возможностями". В программе нигде не сказано, что 1 и 0 должны быть расположено в строго определённых местах.

Однако ещё более простой ответ звучит так: "Потому исторически такая эвристика не срабатывала."

Бритва Оккама появилась в качестве возражения к предположению, будто туманности на самом деле являются отдалёнными галактиками. Казалось, что это чудовищное умножение сущностей во Вселенной. Столько звёзд!

Раз за разом в истории человечества Вселенная становилась всё больше. Тот вариант Бритвы Оккама, который в каждом случае считал бы Вселенную большего размера менее вероятной, показал бы себя хуже в исторической перспективе человечества.

Это та часть "экспериментальных свидетельств", на которую я намекал ранее. И хоть можно обосновывать теории простоты всякими математическими штуками, также желательно, чтобы они работали и на практике. (Другая часть "экспериментальных свидетельств" идёт от статистики/компьютерных наук/искусственного интеллекта, где учёные проверяют, какие определения "простоты" позволят создавать компьютерные программы, которые будут хорошо предсказывать будущие данных из прошлых. Вероятно, парадигма Минимальной Длины Сообщения оказалась наиболее продуктивной, поскольку это очень гибкий способ размышлять о проблемах реального мира.)

Вообразите себе торжественный запуск космического корабля. Он ускоряется вдаль от вас и вот уже летит со скоростью 0,9c. Если расширение Вселенной продолжится, как предсказывает современная космология, то в будущем наступит некий момент --- в соответствии с вашей моделью реальности --- когда вы не будете ожидать возможности взаимодействовать с кораблём даже в принципе. Он преодолеет космологический горизонт по отношению к вам и фотоны, которые покидают его, не смогут преодолеть скорость расширения Вселенной.

Должны ли вы верить, что космический корабль буквально и физически исчез из Вселенной в тот момент, когда он преодолел космологический горизонт по отношению к вам?

Если вы убеждены, что Бритва Оккама считает объекты в модели, то да, вам стоит так поступить. Как только космический корабль преодолеет космологический горизонт, модель, в которой он мгновенно исчезает и модель, в которой он продолжает двигаться, дают одинаковые предсказания. У них нет Байесианского преимущества друг над другом. Однако одна модель содержит гораздо меньше "сущностей", в ней ничего не говорится о всех кварках, электронах и полях, из которых состоял корабль. А потому проще предполагать, что корабль исчез.

Но можно сказать иначе: "Из многочисленных экспериментов я вывел некоторые законы, которые управляют частицами, что доступны к наблюдению. Космический корабль построен из таких частиц. Если применить эти законы, то я сделаю вывод, что космический корабль продолжит движение после преодоления космологического барьера и сохранит те же момент и энергию, что и раньше, иначе будут нарушены законы сохранения, которые до сих пор работали во всех случаях. Чтобы предположить, что корабль исчезнет, потребуется добавить новый закон 'Вещи исчезают как только преодолеют мой космологический горизонт'."

Версия о декогерентности (также известная как многомировая) в квантовой механике утверждает, что измерения подчиняются тем же самым квантовомеханическим правилам, что и все остальные процессы в физике. Если применить эти правила к макроскопическим объектам тем же самым образом, что и к микроскопическим, мы обнаружим, что наблюдатели находятся в состоянии суперпозиции. Можно теперь задать множество вопросов, таких как:

"Тогда получается, что любое бинарное измерение должно обладать вероятностью 50/50, ведь разные версии нас наблюдают оба исхода?"

Однако, возражение, что декогерентность нарушает принцип Бритвы Оккама из-за создания множества объектов в модели, попросту неверно.

Декогерентность не требует, чтобы волновая функция оказалась в каком-либо конкретном сложном начальном состоянии. Многомировая интерпретация не определяет все возможные миры сразу же, но допускает их создание с помощью компактных законов квантовой механики. Компьютерная программа, которая реализовывала бы симуляцию квантовой механики и делала прогнозы результатов экспериментов, потребовала бы огромного количества оперативной памяти. Однако модель волновой функции требует больших затрат в любой версии квантовой механики! Декогерентность просто требует больше. Множество открытий в физике на протяжении человеческой истории, от звёзд до галактик, от атомов до квантовой механики, последовательно увеличивали количество вычислительной мощности CPU, которая требуется для работы того, что мы считаем Вселенной.

Многомировая интерпретация не в зиллион миров раз сложнее, не более чем гипотеза об атомах в зиллион атомов сложнее. Любому человеку, который понимает, как работает Бритва Оккама в числах, ясно, что так применять термин "сложность" неправильно.

Как и в случае галактик, возможно люди ошибочно приняли шок от мысли, что Вселенная настолько велика за вероятностный штраф гипотезы и привлекли Бритву Оккама для оправдания. Но если и должны быть вероятностные штрафы для декогерентности, то размер Вселенной, как таковой, точно не является их источником!

Мысль, что декогеретные миры --- это дополнительные сущности, за которые гипотезу штрафуют в соответствии с Бритвой Оккама --- просто ошибочна. Не в-каком-то-смысле-верна. Это не аргумент, который слабоват, но годится. Это не достойная позиция, которую можно подкрепить дальнейшими аргументами. Это полностью дефектно с точки зрения теории вероятности. И это нельзя исправить. Это плохая математика. 2 + 2 = 3.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/77383/464282

Переводчики: sepremento, niya3