Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (129) Кризис веры (http://lesswrong.com)

Это не кризис веры, если события с тем же успехом могли развиваться и в противоположную сторону.

Siarshai 23.12.15 в 18:25

- Тор Шенкель

Siarshai 23.12.15 в 18:26

Многие люди в нашем мире сохраняют убеждения, в которых бы и десятилетний ребёнок нашёл изъяны, если бы услышал про эти убеждения в первый раз. Я не говорю о каких-то коварных скрытых ошибках. Я говорю о таких, которые бы походя развеял независимый наблюдатель, если бы мог применять скептицизм десятилетнего без попыток людей уклониться от правды.

Siarshai 23.12.15 в 18:34

Как бы выразился Premise Checker: "Если бы понятие бога не появилась до века научного просвещения, только исключительно эксцентричный человек мог бы изобрести эту идею и делать вид, что она хоть что-то объясняет."

Siarshai 23.12.15 в 18:39

И всё же даже умелые научные специалисты, даже значительные инноваторы в своей области, даже в наше развитое время не всегда успешно применяют скептицизм. Нобелевский лауреат Роберт Ауманн, создатель теоремы Ауманна о согласии, - ортодоксальный еврей. Я чувствую подкреплённую опытом уверенность, что в какой-то момент Ауманн сомневался в своей вере. И тем не менее не сомневался успешно.

Siarshai 23.12.15 в 18:43

Мы меняем убеждения реже, чем мы думаем.

Siarshai 23.12.15 в 18:43

Не пугает ли это вас до мозга костей? Это значит, что даже учёный мирового класса знакомый с байесианской математикой всё равно не может отвергнуть идею, абсурдность которой смог бы осознать даже десятилетний ребёнок со свежим взглядом на вещи. Это показывает, сколь неприступную позицию может окопать вера в голове, если долго в ней варилась.

Siarshai 23.12.15 в 18:49

Что нужно сделать, чтобы победить ошибку, которая построила себе крепость?

Siarshai 23.12.15 в 18:49

К тому моменту, как вы осознаете, что это ошибка, она уже побеждена. Дилемма не в "Как я отвергну укоренившуюся в моём разуме ложную веру Х?" а в "Как я пойму, что укоренившаяся в моём разуме вера Х - ложная?" Честность с самим собой наиболее хрупка, когда мы не уверены, какой путь - праведный. Отсюда следует вопрос: как нам взрастить в себе настоящий кризис веры, который мог бы с тем же успехом развиваться в другую сторону?

Siarshai 23.12.15 в 18:53

Религия - испытание, которое все мы можем представить. (Читатели, воспитанные родителями-атеистами, пропустили фундаментальный жизненный опыт и должны довольствоваться слабым подобием - воспоминаниями о религиозных друзьях.) Но если вы выключите человечность и будете думать о теистах, как о злобных мутантах, то не сумеете увидеть, через какие внутренние тернии они прошли. Вы не сможете спросить: "Какой стратегии следует придерживаться религиозным людям, чтобы избежать пути веры?"

Siarshai 23.12.15 в 19:06

Уверен, что некоторые, глядя на такое испытание, уже извергают список стандартных атеистических аргументов: "Им следовало бы заметить, что нет никаких байесианских доводов в пользу существования бога", "Им нужно подробнее рассмотреть моральные уловки, применяющиеся для оправдания поступков бога в Библии", "Им надо научиться пользоваться Бритвой Оккама" - нет, нет и нет! Такой тип отрепетированных плевков аргументами, о которых вы уже давно знаете, и заставляет людей придерживаться их текущих религий. Если вы используете только кэшированные мысли, ваш мозг выдаёт очевидный ответ быстрее, чем можно увидеть тянущуюся к ним нить рассуждений, и так вам точно не удастся провести кризис веры.

Siarshai 24.12.15 в 08:33

Может быть, это всего лишь следствие того, что слишком мало людей читают "Гёдель, Эшер, Бах" в достаточно молодом возрасте, но я заметил, что огромное количество народа, даже технически образованного, испытывает проблемы с переходом в этом случае на мета-уровень. В самые пессимистичные дни я даже сомневаюсь, два ли горба у верблюда.

Siarshai 24.12.15 в 08:37

Даже когда это явно говорится, большинство людей испытывают сложности с переходом с объектно-уровненного "Используй Бритву Оккама! Ты должен осознать, что бог - необязательный элемент мира!" на мета-уровень "Попытайся остановить разум от автозаполнения паттерна обычным способом!" Потому что слова ваших друзей-рационалистов о полезной Бритве Оккама цепляются за ваш разум, точно так же очевидный одобренный знакомыми ответ "Бог таинственный и самонадеянно предполагать, что мы можем понять его" проникает в разум теиста. Точно так же как вы полагаете, что спасительная стратегия - применять Бритву Оккама, теист думает, что следует иметь веру.

Siarshai 24.12.15 в 13:05

"Но... но Бритва Оккама действительно лучше, чем вера! Это не другой вкус мороженого, в конце концов! Любой человек, рассмотрев исторические события может понять, что оккамова рациональность была намного продуктивнее, чем вера..."

Siarshai 24.12.15 в 13:07

Это правда. Но не по существу. Смысл в том, что вы, говоря это, выстреливаете стандартное оправдание, которое уже давно знаете. Испытание кризисом веры - это попытка рассмотреть случай, когда, возможно, наши стандартные умозаключения и оправдания, возможно, неверны. Если обычное оправдание для X это "Бритва Оккама!", и вы хотите посмотреть на Х свежими глазами, то следует спросить себя, действительно ли Бритва Оккама подтверждает Х. Верно ли ваше понимание Бритвы Оккама и, если вы хотите сомневаться достаточно глубоко, действительно ли оккамова простота хорошо работала в этом случае исторически, и так далее. Если бы вы посоветовали религиозному человеку усомниться в их убеждении, что "вера" - хорошее оправдание для Х, то вы должны вложить столь же серьёзные усилия в сомнения, что "Бритва Оккама" - хорошее оправдание для Х.

Siarshai 24.12.15 в 13:22

(Подумайте о всех тех людях, которые не понимают формулировки Бритвы Оккама с использованием Минимальной Длины Описания или индукции Соломонова, которые думают, что она отсекает многомировую гипотезу или гипотезу о нашем мире-симуляции. Им бы потребовалось пересмотреть свои формулировки идеи Бритвы Оккама и понятия, почему простота - это хорошо. Какой бы Х не был на кону, восклицание "Бритва Оккама!" отнюдь не такой выстрел в яблочко, как в случае гравитации.)

Siarshai 24.12.15 в 13:26

Если "Бритва Оккама!" - ваш обычный ответ, ваш стандартный ответ, ответ, который дают все ваши друзья, то лучше заблокируйте возможность вашего разума мгновенно завершить этот паттерн, если вы хотите пройти через истинный кризис веры.

Siarshai 24.12.15 в 13:28

Лучше примените такой алгоритм: представьте, что сказал бы скептик, затем представьте, что он бы сказал в ответ на ваш ответ, затем представьте, что ещё он бы мог сказать, не такое простое для опровержения.

Siarshai 24.12.15 в 13:38

Или: подумайте о мысли, которая делает неприятнее всего.

Siarshai 24.12.15 в 13:39

И выше всех, правило:

Siarshai 24.12.15 в 13:39

Примените столь же отчаянные усилия, которые бы потребовались теисту для отречения от религии.

Siarshai 24.12.15 в 13:40

Потому что если вы пытаетесь не столь отчаянно, то, как говорит мне опыт, ваша голова может быть забита и не такой чепухой как религия.

Siarshai 24.12.15 в 13:50

Без мощного до конвульсий усилия быть рациональным, усилия которым можно было бы выкорчевать религию, как смеете вы верить во что-то, когда даже Роберт Ауманн верит в бога?

Siarshai 24.12.15 в 13:58

Кто-то (я забыл кто) однажды заметил, что люди могут отвергнуть свою религию только до определённого возраста. После у них будут ответы на все вопросы, и станет слишком поздно. Вы должны превзойти такое существование. Это испытание вашей силы, как рационалиста, и оно очень суровое, но если вы не можете его пройти, то вы слабее десятилетнего ребёнка.

Siarshai 24.12.15 в 14:02

Но, опять, когда вы знаете, что убеждение ошибочно, оно уже побеждено.

Siarshai 24.12.15 в 14:03

Так что мы говорим не об отчаянных, мощных усилиях отменить эффекты религиозного воспитания, после которого вы пришли к выводу, что религия ложна. Мы говорим об отчаянных усилиях понять, нужно ли сбросить цепи или оставить их. Честность с самим собой наиболее хрупка, когда мы не знаем, какой курс мы должны взять, тогда рационализация не очевидный грех.

Siarshai 24.12.15 в 14:08

Не любые сомнения должны завершаться крупномасштабным Кризисом Веры. Но следует о нём задуматься, когда:

Siarshai 24.12.15 в 14:09

• Убеждение давно укоренилось в вашей голове.

Siarshai 24.12.15 в 14:09

• Оно окружено облаком известных аргументов и контраргументов.

Siarshai 24.12.15 в 14:10

• Вы затратили на него необратимые издержки (время, деньги, публичные заявления)

Siarshai 24.12.15 в 14:11

• Убеждение имеет эмоциональные последствия (заметьте, что это не делает его ложным)

Siarshai 24.12.15 в 14:13

• Оно в принципе сильно соединено с вашей личностью.

Siarshai 24.12.15 в 14:13

Ничего из этого не является мгновенным опровержением идеи. Однако эти атрибуты подвергают убеждение многим видам опасности, и делают его сложным для признания ложным. Но они относятся как к вере Ричарда Докинза в эволюционную биологию, так и к папскому католицизму. Из этого не следует, что мы говорим о них словно о разных вкусах мороженого. Только непросвещённые люди думают, что глубоко укоренившиеся мнения находятся на одном уровне вне зависимости от количества подтверждающих их данных только потому что они глубоко укоренившиеся. Идея не в том чтобы иметь неглубокие убеждения, а в том, чтобы иметь карту, хорошо отражающую территорию.

Siarshai 24.12.15 в 14:24

Я подчеркну: разумеется, вы можете замечать для себя: "У моих убеждений есть подозрительные атрибуты," - без обязанности затем сказать: "Мои убеждения неверны."

Siarshai 24.12.15 в 14:29

Но эти предостерегающие знаки действительно сигнализируют о сложности успешно сомневаться в убеждении посредством стандартных средств. Если бы утверждение на самом деле было ложным, вы бы на самом деле отвергли его. Если вы не можете эффективно сомневаться, вы слепы, потому что ваш мозг удерживает текущее воззрение безоговорочно. Если сетчатка отсылает в мозг одни и те же сигналы вне зависимости от поступающих на неё фотонов, мы называем такой глаз слепым.

Siarshai 24.12.15 в 16:39

Когда проводить Кризис Веры?

Siarshai 24.12.15 в 16:54

Опять таки, подумайте о советах, которые бы вы дали теисту: если вы чувствуете себя немного нестабильно внутренне, но пытаетесь рационализировать причины, по которым убеждение должно быть непоколебимо, скорее всего вы должны как следует поразмыслить над ним. Если ваши воззрения столь прочно обоснованы, как существование гравитации, можете не беспокоиться - но подумайте обо всех теистах, которые отчаянно хотели бы заключить, что существование бога обосновано так же прочно, как гравитация. Представьте, что сказал бы скептик на ваш "обоснованный как гравитация" аргумент. Разумеется, главная причина, по которой у вас может не получиться кризис веры, это нежелание остановиться на секунду и задать первый вопрос; сказать себе: "Я должен об этом задуматься как следует."

Siarshai 24.12.15 в 17:05

Если ваши мысли становятся столь запутаны, вам не следует откладывать дело в долгий ящик и запустить Кризис Веры. Но не делайте это мимолётом, в первый же доступный свободный момент.

Siarshai 24.12.15 в 17:06

Не пытайтесь разделаться с этим так быстро, как это только возможно, чтобы сказать: "Я был обязан сомневаться, и я сомневался." Это бы не сработало для теиста и не сработает для вас. Отдохните хорошо в день до этого, чтобы быть в хорошем ментальном состоянии. Выделите несколько часов, когда вас никто не будет отвлекать. Найдите тихое место посидеть. Очистите разум от всех стандартных аргументов, попытайтесь начать с нуля. И сделайте отчаянное усилие, чтобы выработать истинное сомнение, чтобы уничтожить ложную (и только ложную) окопавшуюся в вашем разуме идею.

Siarshai 24.12.15 в 17:13

Элементы техники Кризиса Веры были разбросаны по моим предыдущим статьям:

Siarshai 24.12.15 в 17:14

• Избегание действительно слабых мест убеждения - Один из главных соблазнов кризиса веры - сомневаться только в сильных сторонах идей, для которых легко можно придумать хорошие ответы. Нужно искать самые уязвимые места, а не самые ободряющие аргументы.

Siarshai 24.12.15 в 17:22

• Размышление о любопытстве - Роджер Желязны однажды провёл линию между "хотеть быть автором" и "хотеть писать"; точно также есть различие между "хотеть проанализировать проблему" и "хотеть анализировать проблему". Недостаточно сказать: "Мой долг - критиковать мои идеи", - вы должны быть любопытными, и только неопределённость может создать любопытство. Помните о законе сохранения доказательств, это может помочь вам обновлять свои убеждения последовательно. Вы не должны ожидать наперёд, что рассматриваемое новое свидетельство, элемент нового аргумента или нового отрывок данных сместят ваши убеждения в ту или иную сторону (в среднем), только так можно оставаться любопытным на протяжении разговора с самим собой.

Siarshai 24.12.15 в 17:36

• Смотреть свежим взглядом - Используйте технику Пирсига, чтобы предотвращать стандартные кэшированные мысли.

Siarshai 24.12.15 в 17:37

• Литания Гендлина и литания Тарского - Люди могут вытерпеть последствия истины, ведь они их уже терпят, если утверждение верно. Если мысль верна, то лучше в неё верить, если неверна, лучше отвернуть её. Ведь вы бы посоветовали религиозному человеку попытаться представить себе полностью и во всех чертах мир, в котором нет бога, и без оправданий прийти к пониманию, что если бога действительно нет, то им будет лучше верить, что бога нет. Если человек не может принять это на глубоком эмоциональном уровне, то он не может и испытать настоящий кризис веры. Вам тоже следует вложить искреннее усилие представить альтернативу вашему убеждению, как хотел бы самый придирчивый скептик, как потребовалось бы верующему, чтобы представить атеистический взгляд на Вселенную.

Siarshai 24.12.15 в 19:54

• Сделать экстраординарное усилие - Прочитайте про концепцию isshokenmei, мощное, отчаянное усилие быть рациональным, усилие, которое превзошло бы уровень Роберта Ауманна и всех остальных великих учёных в истории, которые так и не вышли за пределы своей религии.

Siarshai 24.12.15 в 19:58

• Генетическая эвристика - Следует быть особенно подозрительным, если вы почерпнули много идей из источника, про который знаете, что он ненадёжный, но (к счастью!) кажется, что эти идеи оказались верны. (Например, человек согласен, что Библия написана человеческими руками, но всё равно цепляется за идею, что она содержит незаменимую этическую мудрость.)

Siarshai 24.12.15 в 20:02

• Важность уметь сказать "Упс" - Повторю, что действительно легче проглотить горькую пилюлю за один ужасный глоток.

Siarshai 24.12.15 в 20:03

• Единомыслие - Противоположность двоемыслия. Детектируйте мысли, от которых хочется отшатнуться, которые появляются на секунду в тёмном углу вашего разума, до того как вы отказываетесь их думать. Если вы осознаёте, о чём не можете думать, вы можете об этом думать.

Siarshai 24.12.15 в 20:09

• Аффективные смертельные спирали и счастливые спирали смерти - Аффективные спирали смерти - первичные генераторы ложных убеждений, для разрушения которых нужны Кризисы Веры. Но так как спирали смерти могут исходить и из истинных вещей, которые в целом хорошие, в этом случае не нужно сразу признавать своё убеждение неправильным, а просто пытаться сопротивляться эффекту гало в каждой точке. Отказывайте в ложной похвале даже по-настоящему славным вещам. Дебаты о политике не должны быть односторонними.

Siarshai 24.12.15 в 20:15

• Подождите предлагать решения - Не предлагайте решений до того как проблема была всесторонне обсуждена так тщательно как это только возможно. Заставьте свой разум не знать заранее, каким будет ваш ответ; попытайтесь подумать хотя бы пять минут до того как сдаться, особенно, когда пытаетесь выступать адвокатом дьявола. При этом особенно уместны эти стандартные техники:

Siarshai 24.12.15 в 20:19