Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (40) Моя дикая и безбашенная юность (http://lesswrong.com)

Говорят, что все, что родителя запрещают делать детям, они делали сами - так они знают почему это делать не стоит.

Muyyd 24.11.15 в 22:25

Давным давно, в непостижимо далеком прошлом, я был преданным Традиционным Рационалистом, думая о себе, как о квалифицированном, в соответствии с ее стандартами, тем не менее, я не знал тогда Пути Байеса. Когда юный Элиезер столкнулся с кажется-мистическим вопросом, принципы Традиционной Рациональности не остановили его от производства Таинственного Ответа. Это, на данный момент, моя самая постыдная ошибка, думать о которой мне до сих пор больно.

Muyyd 24.11.15 в 22:30

Что за таинственный ответ на таинственный вопрос? Этого я говорить не стану, так как это длинная и запутанная история. Я был молод, был всего лишь Традиционным Рационалистом, который не ведал учения Тверски и Канемана. Я знал про Бритву Оккама, но не про конъюнктивное заблуждение. Я полагал, что мне удастся думать сложные мысли самому, в том же стиле, который я наблюдал в научных книгах, но не осознавал, что единственно верная сложность - так, где каждый шаг описан с безжалостной точностью. Сегодня, одним из главных советов, который я даю начинающим рационалистам: "Не пытайтесь строить сложных цепочек рассуждений и планов".

Muyyd 24.11.15 в 22:32

Нет нужды говорить больше: даже после того, как я придумал мой "ответ", феномен не потерял свою таинственность и непрошибаемость, которые имел с самого начала.

Muyyd 24.11.15 в 22:44

Не стоит думать, что юный Элиезер был глуп. Все те ошибки, в совершении которых виновен Элиезер, совершаются солидными ученым и в солидных изданиях и сегодня. Ему потребовался более утонченный навык, чем то, что могла дать Традиционная Рациональность.

Muyyd 24.11.15 в 22:47

Действительно, юный Элиезер старательно и кропотливо следовал предписаниям Традиционной Рациональности, сбиваясь при этом с пути.

Muyyd 24.11.15 в 22:49

Как Традиционный Рационалист, юный Элиезер внимательно следил, чтобы его Таинственный Ответ делал прямое предсказание будущего опыта. Конкретно, я ожидал, что будущие неврологи откроют использование квантовой гравитации нейронами, а ля Сэр Роджер Пенроуз. Подразумевалось, что нейроны будут обладать некоторой мерой квантовой запутанности, а это можно обнаружить наблюдениями, или не обнаружить. Ты либо будешь наблюдать это, либо нет, так ведь?

Muyyd 24.11.15 в 22:54

Но моя гипотез на делала ретроспективных предсказаний. Ведь согласно Традиционной Науке, они не считаются - так что зачем тратить силы на их производство? Но для Байесовского Агента, если гипотеза сегодня не имеет предпочтительных отношений правдоподобия над "я не знаю", возникает вопрос: почему ты веришь сегодня во что-то более сложное чем "я не знаю". Но я не ведал Пути Байеса, так что я не думал про отношения правдоподобия или фокусирование плотности вероятности. Я ведь Сделал Фильсифицируемое Предсказание; разве не таков Закон?

Muyyd 24.11.15 в 23:01

Как Традиционный Рационалист, юный Элиезер был внимателен и не верил в магию, мистицизм, углеродный шовинизм и все такое прочее. Я гордо отмечал, что мой Мистический Ответ "Такая же физика, как и вся остальная физика!". Как будто можно спасти магию от когнитивной изоморфичности магии, называя ее квантовой гравитацией. Но я не ведал Пути Байеса и не видел уровень, на котором моя идея становилась изоморфична магии. Я отдавал мою верность физике, но это не спасло меня; какое дело теории вероятностей до чьей-либо верности? Я избегал всего, что запрещала мне Традиционная Рациональность, но даже то, что оставалось - было магией.

Muyyd 24.11.15 в 23:02

Не сомневайтесь, моя верность Традиционной Рациональность помогла мне выбраться из ямы, что я выкопал для себя. Если бы я не был Традиционным Рационалистом, со мной было бы покончено. Но Традиционной рациональности было все еще недостаточно. Это уводило меня от запрещенных ошибок, но приводило к другим.

Muyyd 24.11.15 в 23:19

Когда я думаю о себе, осторожно следовавшем правилам Традиционной Рациональности, получая при этом неверный ответ, то начинаю понимать, почему люди, называющие себя "рационалистами" не правят миром. Нужно дофига и больше рациональности, прежде чем она приведет хоть куда-то, а не к новым интересным ошибкам.

Muyyd 24.11.15 в 23:22

Традиционная Рациональность преподается как искусство, а не как наука. Читаешь биографии известных физиков, описывающие уроки, которым их научила жизнь, и стараешься делать то же, что и они. Но ты не прожил их жизнь, и половина того, что они описывают - инстинкт, который выработался у них.

Muyyd 24.11.15 в 23:27

Традиционная Рациональность сделана так, что было был приемлемым для меня провести следующие тридцать лет, исследую мою глупую идею, пока я был бы способен фальсифицировать ее, со временем, и был бы честен сам с собой по поводу предсказаний, которые делает моя гипотеза, столкнувшись с опровержением, и прочее и прочее. Этого достаточно для того, чтобы Колесо Науки двигалось вперед, но немного жестоко по отношению к тем, кто тратит по тридцать лет своей жизни. Традиционная рациональность - прогулка, не танец. Она предназначена привести тебя к ответу, в итоге, но позволяет слишком тратить времени на любование цветами по пути.

Muyyd 24.11.15 в 23:32

Традиционные Рационалисты могут согласится не соглашаться. Традиционная Рациональность не имеет идеи о том, что рассуждения - точно искусство, предполагающее, что есть лишь одна корректная вероятность, с учетом имеющихся свидетельств. В Традиционной Рациональности тебе позволено гадать и тестировать свои догадки. Но опыт подсказывает мне, что если ты гадаешь, не зная, то получаешь неправильный ответ.

Muyyd 24.11.15 в 23:35

Путь Байеса тоже неточное искусство, насколько я его освоил пока. Эти статьи все еще пытаются передать словами то, что лучше будет постигнуто опытом. Но, по крайней мере, тут в основе лежит математика, плюс, экспериментальные свидетельства когнитивной психологии по поводу того, как люди действительно думают. Может быть, этого будет достаточно, чтобы преодолеть стратосферических размеров порог дисциплины, позволяющей получать правильные ответы, вместо новых интересных ошибок.

Muyyd 24.11.15 в 23:41