Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (188) В поисках байесовской структуры.

Гномские шлемы не должны функционировать. Сама их конструкция отрицает природу тауматургических законов. Они невозможны - факт. Как и большинство произведений гномьего ума, их конструкция включает в себя большое число колокольчиков и свистков, и слишком мало субстанции. Те, что работают, обычно имеют маленький шлем внутри, всегда скрытый, разработанный так, чтобы казаться безвредным и несущественным.

Muyyd 30.10.15 в 15:02

- Спеллджаммер, условия компании.

Muyyd 30.10.15 в 15:03

Мы видели, что знание подразумевает общую информация между разумом и окружением, и мы видели, что эта информация негэнтропическая в очевидном физическом смысле: если вы знаете, где находятся молекулы и знаете их скорость, вы можете превратить тепло в работу посредством Демона Максвелла\Двигателя Слизарда.

Muyyd 30.10.15 в 15:09

Мы видели, что формирования истинных убеждений без свидетельств является неправдоподобностью того же рода, что и спонтанная реорганизация горячего стакана с водой в кубики льда и электричество. Рациональность требует "работы" в термодинамическом смысле, а не в смысле умственных усилий; разумы должны испускать тепло, если они не абсолютно эффективны. Когнитивная работа управляется теорией вероятности; частным случаем которой является термодинамика (статистическая механика является частным случаем статистики).

Muyyd 30.10.15 в 15:14

Если вы видите, как машина без остановки вращает колеса, не будучи подключенной к выходному отверстию в стене или другому источнику энергии, вы будете искать скрытую батарею, или транслирующий источник энергии неподалеку. Что-то, что могло бы объяснить сделанную работу, не нарушая при этом законов физики.

Muyyd 30.10.15 в 15:16

Так, если разум пришел к истинному убеждению, и мы предполагаем, что Второй Закон Термодинамики не был нарушен, этот разум должен был сделать что-то хотя бы отдаленно байесовское - хотя бы один процесс с вроде-байесовской структурой где-то, или это просто не могло сработать.

Muyyd 30.10.15 в 15:19

В начале (время Т=0), разум не имел общей информации с подсистемой С в окружающей среде. Ко времени Т=1 разум имеет 10 бит общей информации с С. Где-то между, разум должен был столкнуться со свидетельством, в Байесовском смысле свидетельством, потому что все Байесовские свидетельства являются общей информацией, а вся общая информация является байесовскими свидетельствами. Это просто разные способы рассмотрения. Далее разум должен был обработать часть этих свидетельств, конечно неэффективно, правильным образом, сообразно теореме Байеса, хотя бы в некоторых моментах. Разум должен был двигаться в гармонии с Байесом хотя бы немножко, что-то вроде: или так или нарушать Второй Закон Термодинамики, создавая общую информацию из ничего.

Muyyd 30.10.15 в 15:27

По факту, любая часть когнитивного процесса, полезная в деле поиска истины должна быть, структурно, хотя бы немножко байесовской, должна гармонизировать с Байесом, так или иначе, должна частично сочетаться с байесовским потоком; возможно шумно, несмотря на множество замаскированных колокольчиков и свистков, даже если эта байесовская структура видима только в контексте окружающих процессов. Или она (часть когнитивного процесса) была бесполезной.

Muyyd 30.10.15 в 15:32

Как же философы гадали о природе слов! Сколько чернил извели на истинные определения слов, на истинный смысл определений, на истинный смысл смысла! Что за коллекцию шестеренок и колес они соорудили, пытаясь объяснить! И все это время, это была замаскированная форма байесовского вывода!

Muyyd 30.10.15 в 15:35

Как-то грустно было видеть, что никто в аудитории не вскрикнул: "Да! Да, это оно! Разумеется! Это же была теорема Байеса все это время!

Muyyd 30.10.15 в 15:36

Но, наверное, это не так уж восхитительно видеть, как что-то небайесовское на первый взгляд, оказывается Байесом, облаченным в хитрый камуфляж. При условии, что: (А) вы не разоблачили тайну самостоятельно, а прочли это в чужой работе (Ньютон, занимаясь алгеброй, получал много больше удовольствия, чем нынешние студенты), и (Б): вы не осознаете, что поиск скрытой байесовской структуры это большая, трудная, всеобъемлющая задача, вроде поиска Святого Грааля.

Muyyd 30.10.15 в 15:41

Это разные квесты для каждого вида познания, но Грааль оказывается все тем же. Это должен быть правильный Грааль, целый, без пропущенных частей, так что каждый раз, вы отправляетесь за целым ответом, какую бы форму он не принял, вместо того, что искусственно сооружать граалеподобные аргументы. Тогда вы всегда будете находить тот же Святой Грааль в итоге.

Muyyd 30.10.15 в 15:45

Как мне сообщили, я теряю часть аудитории из-за длинных статей, так как "я не ясно выражаю к чему веду"...

Muyyd 30.10.15 в 15:46

... Но это не так уж просто, сказать куда идешь, когда идешь в такие места.

Muyyd 30.10.15 в 15:47

Не так уж полезно знать, что форма познания - байесовская, если не понятно, как она является байесовской. Если вы не в состоянии видеть поток вероятностей в деталях, у вас нет ничего, кроме пароля, или, если проявить милосердие, подсказки того, какую форму примет ответ; но уж точно не сам ответ. Вот поэтому Великий Квест по поиску Скрытой Байесовской Структуры выполняется не восклицанием "Байес!"; байесовская структура может скрываться под разными хитрыми маскировками, прятаться за наборами шестеренок и колес, колокольчиков и свистков.

Muyyd 30.10.15 в 15:53

Вы начинаете этот квест, узнав о когнитивном феномене АБВ, который, вроде бы, очень полезен, и философы веками спорят о его истинной природе, и спорят до сих пор, и исследователи ИИ пытаются заставить компьютер делать это, но они не могут договориться о философии этого...

Muyyd 30.10.15 в 15:57

И, ого, странновато, этот когнитивный феномен, не похож на байесовский на первый взгляд, но очевидно присутствует скрытая структура байесовской интерпретации. Но нет, постойте, есть еще полезные его части, которые не могут быть объяснены Байесом, ой, подождите, это Байес опять... О Боже Мой, вот еще один, полностью отличный от того, когнитивный процесс, который тоже не выглядит байесовским на поверхности, опять имеет байесовскую структуру.... Так, не-байесовские части вообще что-нибудь делают?

Muyyd 30.10.15 в 16:02

• Да: ого, они тоже байесовские!

Muyyd 30.10.15 в 16:03

• Нет: святые небеса, что за убогая разработка. Я мог бы сожрать упаковку аминокислоты

Muyyd 30.10.15 в 16:04

и выблевать архитектуру мозга лучше чем эта.

Muyyd 30.10.15 в 16:05

И когда это случается несколько раз, вы начинаете улавливать ритм. Вот о чем я тут говорю - ритм.

Muyyd 30.10.15 в 16:05

Пытаться говорить о ритме - все равно, что пытаться танцевать об архитектуре.

Muyyd 30.10.15 в 16:06

Это и ставит меня в такое неловкое положение, когда меня просят заранее сказать к чему я веду. По собственному опыту я знаю, стоит мне сказать "Байес раскрывает секреты вселенной", некоторые люди скажут "Да, Байес раскрывает секреты вселенной!"; другие же фыркнут: "Узко мыслите" вот посмотрите на все эти ad-hoc, но потрясающие полезные инструменты, регуляризированная линейная регрессия, например."

Muyyd 30.10.15 в 16:10

Я надеюсь, что с конкретным примером чего-то "не выглядящего как байесовское на первый взгляд, но оказывающееся байесовским в итоге" - и объяснением разницы между паролем и знанием - и объяснением разницы между инструментами и законами - я, возможно, могу передать этот ритм тем, кто лично не брался за этот квест.

Muyyd 30.10.15 в 16:14

Разумеется, это не все секреты Байесовского Заговора, но, на этот момент, это все что я могу сказать. Ну и потом, все секреты знают лишь члены Байесовского Совета, и, если я вам скажу, мне придется вас нанять.

Muyyd 30.10.15 в 16:17

Видеть через заслон адхокерства, прикрывающего когнитивный процесс, видеть байесовскую структуру в его основе - проникать в поток вероятностей, и знать как, не просто знать что, этот процесс является байесовским - как всегда и получается - как всегда и должно быть - значит быть способным чувствовать Силу, лежащую в основе всего познания. Это - Взор Байеса.

Muyyd 30.10.15 в 16:21

— А королева Кашфы, стало быть, получила второе зрение в виде Глаза Змеи?

Muyyd 30.10.15 в 16:26

— Я не знают, может ли она им видеть, — сказал я. — Она все время носит повязку. Но это интересная мысль. Если такое действительно возможно, как ты думаешь, что он позволит ей различить?

Muyyd 30.10.15 в 16:27

— Холодный свет границ вечности, если можно так выразиться, за пределами всех Отражений.

Muyyd 30.10.15 в 16:27

Роджер Желязны, "Принц Хаоса" (1).

Muyyd 30.10.15 в 16:27