Готовый перевод Lesswrong papers / Статьи с Лессронга: Поиск байесовской структуры

"Гномские шлемы не должны функционировать. Их конструкция похоже отрицает природу чародейского закона. На деле, они невозможны. Как и большинство изделий гномов, они обвешаны большим количеством колокольчиков и свистелок, и весьма малой защитой. Те, что работают, обычно имеют небольшой шлем, содержащийся внутри, всегда спрятанный, замаскированный до безобидности и несущественности."

- Spelljammer, набор для игры.

Мы видели, что знание подразумевает взаимную информацию между сознанием и его окружением, и мы видели, что взаимная информация это негэнтропия в весьма физическом смысле: если вы знаете, где находятся молекулы и как быстро они перемещаются, вы можете преобразовать тепло в работу, посредством демона Максвелла/двигателя Сциларда.

Мы видели, что формирование истинных убеждений без свидетельства это невероятность того же вида, что кипяток в тарелке, самопроизвольно превращающийся в кубики льда и электричество. Рациональность расценивает "работу" в термодинамическом смысле, а не в смысле ментальных усилий; сознания должны излучать тепло, если они не идеально эффективны. Эта когнитивная работа управляется теорией вероятностей, для которой термодинамика является частным случаем. (статистическая механика есть частный случай статистики.)

Если вы видите машину, которая постоянно вращает колесо и при этом внешне не присоединена ни к одному источнику энергии, вы должны поискать скрытую батарею или беспроводной источник энергии - нечто, что объяснить проделанную работу, не нарушая законы физики.

Поэтому, если разум приходит к истинным убеждениям, и мы предполагаем, что второй закон термодинамики не нарушается, разум должен сделать нечто по меньшей мере смутно байесианское - по меньшей мере один процесс со структурой, напоминающей байесовскую - или он скорее всего не сработал.

В начале, в момент времени Т=0, разум не имеет взаимной информации с подсистемой С в своем окружении. В момент времени Т=1, разум имеет десять бит взаимной информации о С. Где-то в середине, разум должен был подсчитать свидетельства - под байесовским определение свидетельства, поскольку все байесовские свидетельства это взаимная информация, а вся взаимная информация это байесовские свидетельства, в зависимости от того, с какой стороны смотреть - и обработать по крайней мере некоторые из этих свидетельств, независимо от того, насколько эффективно, в правильном направлении по Байесу, по крайней мере в некоторых случаях. Разум должен был двигаться в гармонии с Байесом хотя бы чуть-чуть, где-то по пути размышлений - или это, или нарушение второго закона термодинамики путем создания взаимной информации из ничего.

На деле, любая часть когнитивного процесса, который делает полезный вклад в поиск истины, должна иметь по крайней мере небольшую байесовскую структуру, должна гармонировать с Байесом в той или иной точке, должна взаимно соответствовать байесовскому потоку, независимо от степени, несмотря на количество маскировочных колокольчиков и свистков, даже если байесовская структура очевидна только в контексте окружающих процессов. Или бы это не помогло.

Сколько же философы размышляют над формой слов! Все эти связи между истинным определением слов и истинным значением определений, и истинным значением значений! Какие механизмы они строят из шестеренок и колес в своих объяснениях! И все время это является замаскированной формой байесовского вывода!

Я реально немного разочарован, что никто из их слушателей не подпрыгивает с криком:
- Да! Да, вот оно! Конечно! Это и правда все время был Байес!

Но возможно это не так захватывающе, как видеть нечто, что на первый взгляд не выглядит байесовским, но потом раскрывается как байесовское, но носящее умную маскировку, если: а) вы не разгадали загадку сами, но прочитали о том, как некто это сделал (Ньютон получил больше удовольствия, чем большинство студентов, изучающих его работы), и б) вы не понимаете, что ищете спрятанную байесовскую структуру в этом огромном, трудном, вездесущем квесте, наподобие поисков Святого Грааля.

Это разный квест для каждой грани познания, но Грааль всегда тот же самый. Хотя это должен быть правильный Грааль - и весь Грааль, без отсутствующих кусков - и так каждый раз вам приходится продолжать квест поиска полного ответа, какую бы форму он не принял, а не пытаться искусственно собирать туманные, похожие на Грааль, аргументы. Тогда в конце концов найдете тот же самый Святой Грааль.

Ранее мне указывали, что я могу терять читателей из-за длинных статей, потому что я не "делаю все ясным там, где собираюсь"...

...но не легко просто сказать людям куда ты идешь, если собираешься куда-то в подобное место.

Не слишком полезно просто знать, что это форма познания - байесовская, если вы не знаете, каким образом это в ней проявляется. Если вы не видите поток вероятности в подробностях, у вас нет ничего кроме пароля - или, если выразиться более мягко, трюка в форме ответа, который можно принять; но не самого ответа. Вот почему Великий Поиск Спрятанной Байесовской Структуры, а не просто восклицание "Байес!" Байесовская структура может быть спрятана под всеми формами маскировки, скрыта за дебрями колес и шестеренок, затенена колокольчиками и свистками.

Путь, которым вы начинаете схватывать Квест Святого Грааля, это то, что вы изучаете о когнитивном феномене XYZ, который кажется полезным - и есть множество философов, который спорят об истинной природе столетиями, и все еще продолжают - и есть множество ИИ ученых, пытающихся заставить компьютер сделать это, они не могу согласиться с философами...

И, надо же как странно, этот когнитивный феномен на первый взгляд не выглядит байесовским, но есть не очевидная структура, лежащая в основе, которая является байесовской интерпретацией - но подождите, там все еще есть полезная работа, которая не может быть объяснена в байесовских терминах - а не, это тоже байесовское - О БОЖЕ это совершенно другой когнитивный процесс, который тоже не выглядит на первый взгляд байесовским, И ТОЖЕ ИМЕЕТ БАЙЕСОВСКУЮ СТРУКТУРУ - стойте, а эти небайесовские части вообще что-то делают?

Да: ух ты, они тоже байесовские!

Нет: дорогие небеса, это глупая разработка. Я могу сожрать ведро аминокислот и выблевать лучшую архитектуру мозга, чем это.

Когда это происходит с вами несколько раз, вы своего рода понимаете ритм. Вот о чем я говорю здесь - ритм.

Пытаться говорить о ритме - все равно что танцевать об архитектуре.

Это приводит меня в неприятное положение, когда приходится пытаться объяснять заранее, куда я клоню. Я знаю из опыта - если сказать "Байес - это секрет вселенной", некоторые говорят "Да! Байес это секрет вселенной!"; а другие морщатся и отвечают "Как узко вы мыслите; посмотрите на все эти придуманные на ходу удивительно полезные методы, наподобие регуляризированной линейной регрессии, которыми я владею."

Надеюсь, что с частным примером "чего-то, что не выглядит байесовским на поверхности, но в конце концов таковым становящимся" - и объяснением разницы между паролями и знанием - и объяснением разницы между инструментами и законами - возможно я могу передать ритм так, чтобы его можно было понять без того, чтобы лично проходить весь квест.

Конечно это не полный Секрет Байесовского Заговора, но это все, что я могу передать здесь. Между нами - целиком секрет известен только Байесовскому Совету, и если я скажу вам его, мне придется вас нанять.

Чтобы смотреть через поверхностную приспособленность когнитивного процесса, чтобы видеть байесовскую структуру в глубине - воспринимать потоки вероятности, и знать как именно, а не просто что это познание тоже байесовское - как и всегда - как и всегда должно быть - быть способным ощущать Силу лежащую в основе всего познания - это и есть Байесовское Видение.

"... - А королева Кашфы, стало быть, получила второе зрение в виде Глаза
Змеи?

- Я не знают, может ли она им видеть, -- сказал я. Она все время носит
повязку. Но это интересная мысль. Если такое действительно возможно, как ты думаешь, что он позволит ей различить?

- Холодный свет границ вечности, если можно так выразиться, за
пределами всех Отражений."

"Принц Хаоса", Роджер Желязны.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/49343/208807

Переводчики: Remlin