Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (188) В поисках байесовской структуры.

Гномские шлемы не должны функционировать. Сама их конструкция отрицает природу тауматургических законов. Они невозможны - факт. Как и большинство произведений гномьего ума, их конструкция включает в себя большое число колокольчиков и свистков, и слишком мало субстанции. Те, что работают, обычно имеют маленький шлем внутри, всегда скрытый, разработанный так, чтобы казаться безвредным и несущественным.

- Спеллджаммер, условия компании.

Мы видели, что знание подразумевает общую информация между разумом и окружением, и мы видели, что эта информация негэнтропическая в очевидном физическом смысле: если вы знаете, где находятся молекулы и знаете их скорость, вы можете превратить тепло в работу посредством Демона Максвелла\Двигателя Слизарда.

Мы видели, что формирования истинных убеждений без свидетельств является неправдоподобностью того же рода, что и спонтанная реорганизация горячего стакана с водой в кубики льда и электричество. Рациональность требует "работы" в термодинамическом смысле, а не в смысле умственных усилий; разумы должны испускать тепло, если они не абсолютно эффективны. Когнитивная работа управляется теорией вероятности; частным случаем которой является термодинамика (статистическая механика является частным случаем статистики).

Если вы видите, как машина без остановки вращает колеса, не будучи подключенной к выходному отверстию в стене или другому источнику энергии, вы будете искать скрытую батарею, или транслирующий источник энергии неподалеку. Что-то, что могло бы объяснить сделанную работу, не нарушая при этом законов физики.

Так, если разум пришел к истинному убеждению, и мы предполагаем, что Второй Закон Термодинамики не был нарушен, этот разум должен был сделать что-то хотя бы отдаленно байесовское - хотя бы один процесс с вроде-байесовской структурой где-то, или это просто не могло сработать.

В начале (время Т=0), разум не имел общей информации с подсистемой С в окружающей среде. Ко времени Т=1 разум имеет 10 бит общей информации с С. Где-то между, разум должен был столкнуться со свидетельством, в Байесовском смысле свидетельством, потому что все Байесовские свидетельства являются общей информацией, а вся общая информация является байесовскими свидетельствами. Это просто разные способы рассмотрения. Далее разум должен был обработать часть этих свидетельств, конечно неэффективно, правильным образом, сообразно теореме Байеса, хотя бы в некоторых моментах. Разум должен был двигаться в гармонии с Байесом хотя бы немножко, что-то вроде: или так или нарушать Второй Закон Термодинамики, создавая общую информацию из ничего.

По факту, любая часть когнитивного процесса, полезная в деле поиска истины должна быть, структурно, хотя бы немножко байесовской, должна гармонизировать с Байесом, так или иначе, должна частично сочетаться с байесовским потоком; возможно шумно, несмотря на множество замаскированных колокольчиков и свистков, даже если эта байесовская структура видима только в контексте окружающих процессов. Или она (часть когнитивного процесса) была бесполезной.

Как же философы гадали о природе слов! Сколько чернил извели на истинные определения слов, на истинный смысл определений, на истинный смысл смысла! Что за коллекцию шестеренок и колес они соорудили, пытаясь объяснить! И все это время, это была замаскированная форма байесовского вывода!

Как-то грустно было видеть, что никто в аудитории не вскрикнул: "Да! Да, это оно! Разумеется! Это же была теорема Байеса все это время!

Но, наверное, это не так уж восхитительно видеть, как что-то небайесовское на первый взгляд, оказывается Байесом, облаченным в хитрый камуфляж. При условии, что: (А) вы не разоблачили тайну самостоятельно, а прочли это в чужой работе (Ньютон, занимаясь алгеброй, получал много больше удовольствия, чем нынешние студенты), и (Б): вы не осознаете, что поиск скрытой байесовской структуры это большая, трудная, всеобъемлющая задача, вроде поиска Святого Грааля.

Это разные квесты для каждого вида познания, но Грааль оказывается все тем же. Это должен быть правильный Грааль, целый, без пропущенных частей, так что каждый раз, вы отправляетесь за целым ответом, какую бы форму он не принял, вместо того, что искусственно сооружать граалеподобные аргументы. Тогда вы всегда будете находить тот же Святой Грааль в итоге.

Как мне сообщили, я теряю часть аудитории из-за длинных статей, так как "я не ясно выражаю к чему веду"...

... Но это не так уж просто, сказать куда идешь, когда идешь в такие места.

Не так уж полезно знать, что форма познания - байесовская, если не понятно, как она является байесовской. Если вы не в состоянии видеть поток вероятностей в деталях, у вас нет ничего, кроме пароля, или, если проявить милосердие, подсказки того, какую форму примет ответ; но уж точно не сам ответ. Вот поэтому Великий Квест по поиску Скрытой Байесовской Структуры выполняется не восклицанием "Байес!"; байесовская структура может скрываться под разными хитрыми маскировками, прятаться за наборами шестеренок и колес, колокольчиков и свистков.

Вы начинаете этот квест, узнав о когнитивном феномене АБВ, который, вроде бы, очень полезен, и философы веками спорят о его истинной природе, и спорят до сих пор, и исследователи ИИ пытаются заставить компьютер делать это, но они не могут договориться о философии этого...

И, ого, странновато, этот когнитивный феномен, не похож на байесовский на первый взгляд, но очевидно присутствует скрытая структура байесовской интерпретации. Но нет, постойте, есть еще полезные его части, которые не могут быть объяснены Байесом, ой, подождите, это Байес опять... О Боже Мой, вот еще один, полностью отличный от того, когнитивный процесс, который тоже не выглядит байесовским на поверхности, опять имеет байесовскую структуру.... Так, не-байесовские части вообще что-нибудь делают?

• Да: ого, они тоже байесовские!

• Нет: святые небеса, что за убогая разработка. Я мог бы сожрать упаковку аминокислоты

и выблевать архитектуру мозга лучше чем эта.

И когда это случается несколько раз, вы начинаете улавливать ритм. Вот о чем я тут говорю - ритм.

Пытаться говорить о ритме - все равно, что пытаться танцевать об архитектуре.

Это и ставит меня в такое неловкое положение, когда меня просят заранее сказать к чему я веду. По собственному опыту я знаю, стоит мне сказать "Байес раскрывает секреты вселенной", некоторые люди скажут "Да, Байес раскрывает секреты вселенной!"; другие же фыркнут: "Узко мыслите" вот посмотрите на все эти ad-hoc, но потрясающие полезные инструменты, регуляризированная линейная регрессия, например."

Я надеюсь, что с конкретным примером чего-то "не выглядящего как байесовское на первый взгляд, но оказывающееся байесовским в итоге" - и объяснением разницы между паролем и знанием - и объяснением разницы между инструментами и законами - я, возможно, могу передать этот ритм тем, кто лично не брался за этот квест.

Разумеется, это не все секреты Байесовского Заговора, но, на этот момент, это все что я могу сказать. Ну и потом, все секреты знают лишь члены Байесовского Совета, и, если я вам скажу, мне придется вас нанять.

Видеть через заслон адхокерства, прикрывающего когнитивный процесс, видеть байесовскую структуру в его основе - проникать в поток вероятностей, и знать как, не просто знать что, этот процесс является байесовским - как всегда и получается - как всегда и должно быть - значит быть способным чувствовать Силу, лежащую в основе всего познания. Это - Взор Байеса.

— А королева Кашфы, стало быть, получила второе зрение в виде Глаза Змеи?

— Я не знают, может ли она им видеть, — сказал я. — Она все время носит повязку. Но это интересная мысль. Если такое действительно возможно, как ты думаешь, что он позволит ей различить?

— Холодный свет границ вечности, если можно так выразиться, за пределами всех Отражений.

Роджер Желязны, "Принц Хаоса" (1).

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/287617

Переводчики: Muyyd