Lesswrong papers / Статьи с Лессронга: Поиск байесовской структуры

"Гномские шлемы не должны функционировать. Их конструкция похоже отрицает природу чародейского закона. На деле, они невозможны. Как и большинство изделий гномов, они обвешаны большим количеством колокольчиков и свистелок, и весьма малой защитой. Те, что работают, обычно имеют небольшой шлем, содержащийся внутри, всегда спрятанный, замаскированный до безобидности и несущественности."

Remlin 04.05.15 в 09:07

- Spelljammer, набор для игры.

Remlin 04.05.15 в 09:07

Мы видели, что знание подразумевает взаимную информацию между сознанием и его окружением, и мы видели, что взаимная информация это негэнтропия в весьма физическом смысле: если вы знаете, где находятся молекулы и как быстро они перемещаются, вы можете преобразовать тепло в работу, посредством демона Максвелла/двигателя Сциларда.

Remlin 10.07.14 в 10:53

Мы видели, что формирование истинных убеждений без свидетельства это невероятность того же вида, что кипяток в тарелке, самопроизвольно превращающийся в кубики льда и электричество. Рациональность расценивает "работу" в термодинамическом смысле, а не в смысле ментальных усилий; сознания должны излучать тепло, если они не идеально эффективны. Эта когнитивная работа управляется теорией вероятностей, для которой термодинамика является частным случаем. (статистическая механика есть частный случай статистики.)

Remlin 04.05.15 в 09:10

Если вы видите машину, которая постоянно вращает колесо и при этом внешне не присоединена ни к одному источнику энергии, вы должны поискать скрытую батарею или беспроводной источник энергии - нечто, что объяснить проделанную работу, не нарушая законы физики.

Remlin 04.05.15 в 09:11

Поэтому, если разум приходит к истинным убеждениям, и мы предполагаем, что второй закон термодинамики не нарушается, разум должен сделать нечто по меньшей мере смутно байесианское - по меньшей мере один процесс со структурой, напоминающей байесовскую - или он скорее всего не сработал.

Remlin 04.05.15 в 09:12

В начале, в момент времени Т=0, разум не имеет взаимной информации с подсистемой С в своем окружении. В момент времени Т=1, разум имеет десять бит взаимной информации о С. Где-то в середине, разум должен был подсчитать свидетельства - под байесовским определение свидетельства, поскольку все байесовские свидетельства это взаимная информация, а вся взаимная информация это байесовские свидетельства, в зависимости от того, с какой стороны смотреть - и обработать по крайней мере некоторые из этих свидетельств, независимо от того, насколько эффективно, в правильном направлении по Байесу, по крайней мере в некоторых случаях. Разум должен был двигаться в гармонии с Байесом хотя бы чуть-чуть, где-то по пути размышлений - или это, или нарушение второго закона термодинамики путем создания взаимной информации из ничего.

Remlin 04.05.15 в 09:17

На деле, любая часть когнитивного процесса, который делает полезный вклад в поиск истины, должна иметь по крайней мере небольшую байесовскую структуру, должна гармонировать с Байесом в той или иной точке, должна взаимно соответствовать байесовскому потоку, независимо от степени, несмотря на количество маскировочных колокольчиков и свистков, даже если байесовская структура очевидна только в контексте окружающих процессов. Или бы это не помогло.

Remlin 04.05.15 в 09:20

Сколько же философы размышляют над формой слов! Все эти связи между истинным определением слов и истинным значением определений, и истинным значением значений! Какие механизмы они строят из шестеренок и колес в своих объяснениях! И все время это является замаскированной формой байесовского вывода!

Remlin 04.05.15 в 09:22

Я реально немного разочарован, что никто из их слушателей не подпрыгивает с криком:
- Да! Да, вот оно! Конечно! Это и правда все время был Байес!

Remlin 04.05.15 в 09:23

Но возможно это не так захватывающе, как видеть нечто, что на первый взгляд не выглядит байесовским, но потом раскрывается как байесовское, но носящее умную маскировку, если: а) вы не разгадали загадку сами, но прочитали о том, как некто это сделал (Ньютон получил больше удовольствия, чем большинство студентов, изучающих его работы), и б) вы не понимаете, что ищете спрятанную байесовскую структуру в этом огромном, трудном, вездесущем квесте, наподобие поисков Святого Грааля.

Remlin 04.05.15 в 09:27

Это разный квест для каждой грани познания, но Грааль всегда тот же самый. Хотя это должен быть правильный Грааль - и весь Грааль, без отсутствующих кусков - и так каждый раз вам приходится продолжать квест поиска полного ответа, какую бы форму он не принял, а не пытаться искусственно собирать туманные, похожие на Грааль, аргументы. Тогда в конце концов найдете тот же самый Святой Грааль.

Remlin 04.05.15 в 10:16

Ранее мне указывали, что я могу терять читателей из-за длинных статей, потому что я не "делаю все ясным там, где собираюсь"...

Remlin 04.05.15 в 10:17

...но не легко просто сказать людям куда ты идешь, если собираешься куда-то в подобное место.

Remlin 04.05.15 в 10:17

Не слишком полезно просто знать, что это форма познания - байесовская, если вы не знаете, каким образом это в ней проявляется. Если вы не видите поток вероятности в подробностях, у вас нет ничего кроме пароля - или, если выразиться более мягко, трюка в форме ответа, который можно принять; но не самого ответа. Вот почему Великий Поиск Спрятанной Байесовской Структуры, а не просто восклицание "Байес!" Байесовская структура может быть спрятана под всеми формами маскировки, скрыта за дебрями колес и шестеренок, затенена колокольчиками и свистками.

Remlin 04.05.15 в 10:21

Путь, которым вы начинаете схватывать Квест Святого Грааля, это то, что вы изучаете о когнитивном феномене XYZ, который кажется полезным - и есть множество философов, который спорят об истинной природе столетиями, и все еще продолжают - и есть множество ИИ ученых, пытающихся заставить компьютер сделать это, они не могу согласиться с философами...

Remlin 04.05.15 в 10:23

И, надо же как странно, этот когнитивный феномен на первый взгляд не выглядит байесовским, но есть не очевидная структура, лежащая в основе, которая является байесовской интерпретацией - но подождите, там все еще есть полезная работа, которая не может быть объяснена в байесовских терминах - а не, это тоже байесовское - О БОЖЕ это совершенно другой когнитивный процесс, который тоже не выглядит на первый взгляд байесовским, И ТОЖЕ ИМЕЕТ БАЙЕСОВСКУЮ СТРУКТУРУ - стойте, а эти небайесовские части вообще что-то делают?

Remlin 04.05.15 в 10:26

Да: ух ты, они тоже байесовские!

Remlin 04.05.15 в 10:26

Нет: дорогие небеса, это глупая разработка. Я могу сожрать ведро аминокислот и выблевать лучшую архитектуру мозга, чем это.

Remlin 04.05.15 в 10:27

Когда это происходит с вами несколько раз, вы своего рода понимаете ритм. Вот о чем я говорю здесь - ритм.

Remlin 04.05.15 в 10:27

Пытаться говорить о ритме - все равно что танцевать об архитектуре.

Remlin 04.05.15 в 10:27

Это приводит меня в неприятное положение, когда приходится пытаться объяснять заранее, куда я клоню. Я знаю из опыта - если сказать "Байес - это секрет вселенной", некоторые говорят "Да! Байес это секрет вселенной!"; а другие морщатся и отвечают "Как узко вы мыслите; посмотрите на все эти придуманные на ходу удивительно полезные методы, наподобие регуляризированной линейной регрессии, которыми я владею."

Remlin 04.05.15 в 10:30

Надеюсь, что с частным примером "чего-то, что не выглядит байесовским на поверхности, но в конце концов таковым становящимся" - и объяснением разницы между паролями и знанием - и объяснением разницы между инструментами и законами - возможно я могу передать ритм так, чтобы его можно было понять без того, чтобы лично проходить весь квест.

Remlin 04.05.15 в 10:32

Конечно это не полный Секрет Байесовского Заговора, но это все, что я могу передать здесь. Между нами - целиком секрет известен только Байесовскому Совету, и если я скажу вам его, мне придется вас нанять.

Remlin 04.05.15 в 10:33

Чтобы смотреть через поверхностную приспособленность когнитивного процесса, чтобы видеть байесовскую структуру в глубине - воспринимать потоки вероятности, и знать как именно, а не просто что это познание тоже байесовское - как и всегда - как и всегда должно быть - быть способным ощущать Силу лежащую в основе всего познания - это и есть Байесовское Видение.

Remlin 04.05.15 в 10:35

"... - А королева Кашфы, стало быть, получила второе зрение в виде Глаза
Змеи?

Remlin 04.05.15 в 10:37

- Я не знают, может ли она им видеть, -- сказал я. Она все время носит
повязку. Но это интересная мысль. Если такое действительно возможно, как ты думаешь, что он позволит ей различить?

Remlin 04.05.15 в 10:37

- Холодный свет границ вечности, если можно так выразиться, за
пределами всех Отражений."

Remlin 04.05.15 в 10:37

"Принц Хаоса", Роджер Желязны.

Remlin 04.05.15 в 10:38