Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (129) Кризис веры (http://lesswrong.com)

Это не кризис веры, если события с тем же успехом могли развиваться и в противоположную сторону.

- Тор Шенкель

Многие люди в нашем мире сохраняют убеждения, в которых бы и десятилетний ребёнок нашёл изъяны, если бы услышал про эти убеждения в первый раз. Я не говорю о каких-то коварных скрытых ошибках. Я говорю о таких, которые бы походя развеял независимый наблюдатель, если бы мог применять скептицизм десятилетнего без попыток людей уклониться от правды.

Как бы выразился Premise Checker: "Если бы понятие бога не появилась до века научного просвещения, только исключительно эксцентричный человек мог бы изобрести эту идею и делать вид, что она хоть что-то объясняет."

И всё же даже умелые научные специалисты, даже значительные инноваторы в своей области, даже в наше развитое время не всегда успешно применяют скептицизм. Нобелевский лауреат Роберт Ауманн, создатель теоремы Ауманна о согласии, - ортодоксальный еврей. Я чувствую подкреплённую опытом уверенность, что в какой-то момент Ауманн сомневался в своей вере. И тем не менее не сомневался успешно.

Мы меняем убеждения реже, чем мы думаем.

Не пугает ли это вас до мозга костей? Это значит, что даже учёный мирового класса знакомый с байесианской математикой всё равно не может отвергнуть идею, абсурдность которой смог бы осознать даже десятилетний ребёнок со свежим взглядом на вещи. Это показывает, сколь неприступную позицию может окопать вера в голове, если долго в ней варилась.

Что нужно сделать, чтобы победить ошибку, которая построила себе крепость?

К тому моменту, как вы осознаете, что это ошибка, она уже побеждена. Дилемма не в "Как я отвергну укоренившуюся в моём разуме ложную веру Х?" а в "Как я пойму, что укоренившаяся в моём разуме вера Х - ложная?" Честность с самим собой наиболее хрупка, когда мы не уверены, какой путь - праведный. Отсюда следует вопрос: как нам взрастить в себе настоящий кризис веры, который мог бы с тем же успехом развиваться в другую сторону?

Религия - испытание, которое все мы можем представить. (Читатели, воспитанные родителями-атеистами, пропустили фундаментальный жизненный опыт и должны довольствоваться слабым подобием - воспоминаниями о религиозных друзьях.) Но если вы выключите человечность и будете думать о теистах, как о злобных мутантах, то не сумеете увидеть, через какие внутренние тернии они прошли. Вы не сможете спросить: "Какой стратегии следует придерживаться религиозным людям, чтобы избежать пути веры?"

Уверен, что некоторые, глядя на такое испытание, уже извергают список стандартных атеистических аргументов: "Им следовало бы заметить, что нет никаких байесианских доводов в пользу существования бога", "Им нужно подробнее рассмотреть моральные уловки, применяющиеся для оправдания поступков бога в Библии", "Им надо научиться пользоваться Бритвой Оккама" - нет, нет и нет! Такой тип отрепетированных плевков аргументами, о которых вы уже давно знаете, и заставляет людей придерживаться их текущих религий. Если вы используете только кэшированные мысли, ваш мозг выдаёт очевидный ответ быстрее, чем можно увидеть тянущуюся к ним нить рассуждений, и так вам точно не удастся провести кризис веры.

Может быть, это всего лишь следствие того, что слишком мало людей читают "Гёдель, Эшер, Бах" в достаточно молодом возрасте, но я заметил, что огромное количество народа, даже технически образованного, испытывает проблемы с переходом в этом случае на мета-уровень. В самые пессимистичные дни я даже сомневаюсь, два ли горба у верблюда.

Даже когда это явно говорится, большинство людей испытывают сложности с переходом с объектно-уровненного "Используй Бритву Оккама! Ты должен осознать, что бог - необязательный элемент мира!" на мета-уровень "Попытайся остановить разум от автозаполнения паттерна обычным способом!" Потому что слова ваших друзей-рационалистов о полезной Бритве Оккама цепляются за ваш разум, точно так же очевидный одобренный знакомыми ответ "Бог таинственный и самонадеянно предполагать, что мы можем понять его" проникает в разум теиста. Точно так же как вы полагаете, что спасительная стратегия - применять Бритву Оккама, теист думает, что следует иметь веру.

"Но... но Бритва Оккама действительно лучше, чем вера! Это не другой вкус мороженого, в конце концов! Любой человек, рассмотрев исторические события может понять, что оккамова рациональность была намного продуктивнее, чем вера..."

Это правда. Но не по существу. Смысл в том, что вы, говоря это, выстреливаете стандартное оправдание, которое уже давно знаете. Испытание кризисом веры - это попытка рассмотреть случай, когда, возможно, наши стандартные умозаключения и оправдания, возможно, неверны. Если обычное оправдание для X это "Бритва Оккама!", и вы хотите посмотреть на Х свежими глазами, то следует спросить себя, действительно ли Бритва Оккама подтверждает Х. Верно ли ваше понимание Бритвы Оккама и, если вы хотите сомневаться достаточно глубоко, действительно ли оккамова простота хорошо работала в этом случае исторически, и так далее. Если бы вы посоветовали религиозному человеку усомниться в их убеждении, что "вера" - хорошее оправдание для Х, то вы должны вложить столь же серьёзные усилия в сомнения, что "Бритва Оккама" - хорошее оправдание для Х.

(Подумайте о всех тех людях, которые не понимают формулировки Бритвы Оккама с использованием Минимальной Длины Описания или индукции Соломонова, которые думают, что она отсекает многомировую гипотезу или гипотезу о нашем мире-симуляции. Им бы потребовалось пересмотреть свои формулировки идеи Бритвы Оккама и понятия, почему простота - это хорошо. Какой бы Х не был на кону, восклицание "Бритва Оккама!" отнюдь не такой выстрел в яблочко, как в случае гравитации.)

Если "Бритва Оккама!" - ваш обычный ответ, ваш стандартный ответ, ответ, который дают все ваши друзья, то лучше заблокируйте возможность вашего разума мгновенно завершить этот паттерн, если вы хотите пройти через истинный кризис веры.

Лучше примените такой алгоритм: представьте, что сказал бы скептик, затем представьте, что он бы сказал в ответ на ваш ответ, затем представьте, что ещё он бы мог сказать, не такое простое для опровержения.

Или: подумайте о мысли, которая делает неприятнее всего.

И выше всех, правило:

Примените столь же отчаянные усилия, которые бы потребовались теисту для отречения от религии.

Потому что если вы пытаетесь не столь отчаянно, то, как говорит мне опыт, ваша голова может быть забита и не такой чепухой как религия.

Без мощного до конвульсий усилия быть рациональным, усилия которым можно было бы выкорчевать религию, как смеете вы верить во что-то, когда даже Роберт Ауманн верит в бога?

Кто-то (я забыл кто) однажды заметил, что люди могут отвергнуть свою религию только до определённого возраста. После у них будут ответы на все вопросы, и станет слишком поздно. Вы должны превзойти такое существование. Это испытание вашей силы, как рационалиста, и оно очень суровое, но если вы не можете его пройти, то вы слабее десятилетнего ребёнка.

Но, опять, когда вы знаете, что убеждение ошибочно, оно уже побеждено.

Так что мы говорим не об отчаянных, мощных усилиях отменить эффекты религиозного воспитания, после которого вы пришли к выводу, что религия ложна. Мы говорим об отчаянных усилиях понять, нужно ли сбросить цепи или оставить их. Честность с самим собой наиболее хрупка, когда мы не знаем, какой курс мы должны взять, тогда рационализация не очевидный грех.

Не любые сомнения должны завершаться крупномасштабным Кризисом Веры. Но следует о нём задуматься, когда:

• Убеждение давно укоренилось в вашей голове.

• Оно окружено облаком известных аргументов и контраргументов.

• Вы затратили на него необратимые издержки (время, деньги, публичные заявления)

• Убеждение имеет эмоциональные последствия (заметьте, что это не делает его ложным)

• Оно в принципе сильно соединено с вашей личностью.

Ничего из этого не является мгновенным опровержением идеи. Однако эти атрибуты подвергают убеждение многим видам опасности, и делают его сложным для признания ложным. Но они относятся как к вере Ричарда Докинза в эволюционную биологию, так и к папскому католицизму. Из этого не следует, что мы говорим о них словно о разных вкусах мороженого. Только непросвещённые люди думают, что глубоко укоренившиеся мнения находятся на одном уровне вне зависимости от количества подтверждающих их данных только потому что они глубоко укоренившиеся. Идея не в том чтобы иметь неглубокие убеждения, а в том, чтобы иметь карту, хорошо отражающую территорию.

Я подчеркну: разумеется, вы можете замечать для себя: "У моих убеждений есть подозрительные атрибуты," - без обязанности затем сказать: "Мои убеждения неверны."

Но эти предостерегающие знаки действительно сигнализируют о сложности успешно сомневаться в убеждении посредством стандартных средств. Если бы утверждение на самом деле было ложным, вы бы на самом деле отвергли его. Если вы не можете эффективно сомневаться, вы слепы, потому что ваш мозг удерживает текущее воззрение безоговорочно. Если сетчатка отсылает в мозг одни и те же сигналы вне зависимости от поступающих на неё фотонов, мы называем такой глаз слепым.

Когда проводить Кризис Веры?

Опять таки, подумайте о советах, которые бы вы дали теисту: если вы чувствуете себя немного нестабильно внутренне, но пытаетесь рационализировать причины, по которым убеждение должно быть непоколебимо, скорее всего вы должны как следует поразмыслить над ним. Если ваши воззрения столь прочно обоснованы, как существование гравитации, можете не беспокоиться - но подумайте обо всех теистах, которые отчаянно хотели бы заключить, что существование бога обосновано так же прочно, как гравитация. Представьте, что сказал бы скептик на ваш "обоснованный как гравитация" аргумент. Разумеется, главная причина, по которой у вас может не получиться кризис веры, это нежелание остановиться на секунду и задать первый вопрос; сказать себе: "Я должен об этом задуматься как следует."

Если ваши мысли становятся столь запутаны, вам не следует откладывать дело в долгий ящик и запустить Кризис Веры. Но не делайте это мимолётом, в первый же доступный свободный момент.

Не пытайтесь разделаться с этим так быстро, как это только возможно, чтобы сказать: "Я был обязан сомневаться, и я сомневался." Это бы не сработало для теиста и не сработает для вас. Отдохните хорошо в день до этого, чтобы быть в хорошем ментальном состоянии. Выделите несколько часов, когда вас никто не будет отвлекать. Найдите тихое место посидеть. Очистите разум от всех стандартных аргументов, попытайтесь начать с нуля. И сделайте отчаянное усилие, чтобы выработать истинное сомнение, чтобы уничтожить ложную (и только ложную) окопавшуюся в вашем разуме идею.

Элементы техники Кризиса Веры были разбросаны по моим предыдущим статьям:

• Избегание действительно слабых мест убеждения - Один из главных соблазнов кризиса веры - сомневаться только в сильных сторонах идей, для которых легко можно придумать хорошие ответы. Нужно искать самые уязвимые места, а не самые ободряющие аргументы.

• Размышление о любопытстве - Роджер Желязны однажды провёл линию между "хотеть быть автором" и "хотеть писать"; точно также есть различие между "хотеть проанализировать проблему" и "хотеть анализировать проблему". Недостаточно сказать: "Мой долг - критиковать мои идеи", - вы должны быть любопытными, и только неопределённость может создать любопытство. Помните о законе сохранения доказательств, это может помочь вам обновлять свои убеждения последовательно. Вы не должны ожидать наперёд, что рассматриваемое новое свидетельство, элемент нового аргумента или нового отрывок данных сместят ваши убеждения в ту или иную сторону (в среднем), только так можно оставаться любопытным на протяжении разговора с самим собой.

• Смотреть свежим взглядом - Используйте технику Пирсига, чтобы предотвращать стандартные кэшированные мысли.

• Литания Гендлина и литания Тарского - Люди могут вытерпеть последствия истины, ведь они их уже терпят, если утверждение верно. Если мысль верна, то лучше в неё верить, если неверна, лучше отвернуть её. Ведь вы бы посоветовали религиозному человеку попытаться представить себе полностью и во всех чертах мир, в котором нет бога, и без оправданий прийти к пониманию, что если бога действительно нет, то им будет лучше верить, что бога нет. Если человек не может принять это на глубоком эмоциональном уровне, то он не может и испытать настоящий кризис веры. Вам тоже следует вложить искреннее усилие представить альтернативу вашему убеждению, как хотел бы самый придирчивый скептик, как потребовалось бы верующему, чтобы представить атеистический взгляд на Вселенную.

• Сделать экстраординарное усилие - Прочитайте про концепцию isshokenmei, мощное, отчаянное усилие быть рациональным, усилие, которое превзошло бы уровень Роберта Ауманна и всех остальных великих учёных в истории, которые так и не вышли за пределы своей религии.

• Генетическая эвристика - Следует быть особенно подозрительным, если вы почерпнули много идей из источника, про который знаете, что он ненадёжный, но (к счастью!) кажется, что эти идеи оказались верны. (Например, человек согласен, что Библия написана человеческими руками, но всё равно цепляется за идею, что она содержит незаменимую этическую мудрость.)

• Важность уметь сказать "Упс" - Повторю, что действительно легче проглотить горькую пилюлю за один ужасный глоток.

• Единомыслие - Противоположность двоемыслия. Детектируйте мысли, от которых хочется отшатнуться, которые появляются на секунду в тёмном углу вашего разума, до того как вы отказываетесь их думать. Если вы осознаёте, о чём не можете думать, вы можете об этом думать.

• Аффективные смертельные спирали и счастливые спирали смерти - Аффективные спирали смерти - первичные генераторы ложных убеждений, для разрушения которых нужны Кризисы Веры. Но так как спирали смерти могут исходить и из истинных вещей, которые в целом хорошие, в этом случае не нужно сразу признавать своё убеждение неправильным, а просто пытаться сопротивляться эффекту гало в каждой точке. Отказывайте в ложной похвале даже по-настоящему славным вещам. Дебаты о политике не должны быть односторонними.

• Подождите предлагать решения - Не предлагайте решений до того как проблема была всесторонне обсуждена так тщательно как это только возможно. Заставьте свой разум не знать заранее, каким будет ваш ответ; попытайтесь подумать хотя бы пять минут до того как сдаться, особенно, когда пытаетесь выступать адвокатом дьявола. При этом особенно уместны эти стандартные техники:

• Цепочка по рационализации и ответом на последней строчке, которая объясняет, почему неправильно избирательно спорить с одной точки зрения.

• Позитивное предубеждение, мотивированный скептицизм и мотивированная остановка. Следите, чтобы вы не искали избирательно поддержку или, наоборот, контраргументы к вашей точке зрения и не останавливали поток мыслей до того как он станет опасным. Пропускание альтернатив - особый случай мотивированной остановки. Также есть специальный случай мотивированного скептицизма: фальшивая скромность, когда вы стыдливо признаётесь, что никто не может знать ответ на какой-то вопрос, тогда как на самом деле вы бы просто предпочли бы его не знать. Не требуйте слишком сильных подтверждений контраргументам.

• Остерегайтесь семантических стоп-сигналов, огней "Аплодисменты" и выбора объяснить/поклоняться/игнорировать.

• Почувствуйте вес обременяющих деталей, каждая деталь - дополнительная тягость, точка кризиса.

Но вообще для этой техники много полезных материалов, здесь и на Overcoming Bias.

Кризис Веры - критическая точка, место для длительного натиска isshoukenmei, бескомпромиссное, меняющее жизнь усилие быть невероятно рациональным для вознесения над уровнем идиотских, чёрт подери, ошибок. Прекрасный шанс использовать против себя все навыки, которые вы до этого тренировали.

Желаю удачи против вашего оппонента. Хорошего вам кризиса!

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: перевод редактируется

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/293844

Переводчики: Siarshai