Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (128) Подготовь путь к отступлению (http://lesswrong.com)

Оглавление
Английский оригинал Перевод на русский

Сожалеем, но текст оригинала доступен только зарегистрированным пользователям.

Когда окружаешь противника

Siarshai 22.12.15 в 07:04

0

Всегда оставляй путь к спасению.

Siarshai 22.12.15 в 07:04

0

Они должны видеть

Siarshai 22.12.15 в 07:04

0

Альтернативу смерти.

Siarshai 22.12.15 в 07:05

0

- Сунь Цзы, «Искусство войны»

Siarshai 22.12.15 в 07:05

0

Не поднимайте давление, понизьте стенку.

Siarshai 22.12.15 в 07:06

0

- Лоис Буджолд, "Комарра"

Siarshai 22.12.15 в 07:08

0

Однажды мне довелось пообщаться с не-рационалисткой, которая каким-то образом забрела на местное собрание рационалистов. Она утверждала, (а) что верит в души и (б) что считает крионику бессмысленной, потому что душа не останется в замороженном теле. Я спросил: "Но откуда вы это знаете?" Из замешательства, отразившегося на её лице, было понятно, что этот вопрос никогда не приходил ей на ум. Я говорю это безо всякого злого умысла, она казалась вполне хорошим человеком, но без каких-либо познаний в рациональности, подобно большинству людей, для которых я и пишу эту книгу.

Siarshai 22.12.15 в 22:14

0
+2

Большая часть последовавшего разговора уже отражена в других статьях на Overcoming Bias: если вам что-то действительно любопытно, вы скорее всего сумеете придумать хороший способ протестировать это; первым делом приобретите точные убеждения и позвольте вашим эмоциям развиваться исходя из них; и тому подобное. Но разговор напомнил мне об одной вещи, которую я до этого не упоминал: "Убедись", - посоветовал я ей, - "что ты можешь представить, как выглядел бы мир, в котором нет душ, и что бы ты в нём делала."

Siarshai 22.12.15 в 22:28

0

Не думай о причинах, почему так быть не может, просто прими это как данность, а затем визуализируй последствия. Затем последуют мысли: "Что же, если душ действительно не существует, то я могу записаться на крионику" или "Если бога нет, то я всё равно буду следовать традиционной морали", но никак не паралич разума от ужаса. Хотя бы из чувства самоуважения стоит попытаться принять истину, какой бы неудобной она ни была. Но если взять в расчёт человеческую природу, стоит попытаться сделать предположение немного менее неудобным, прежде чем оценивать доказательства в пользу или против него.

Siarshai 23.12.15 в 13:20

0

Принцип этой техники прост: как Сунь Цзы советует поступать с врагами, так вы должны поступать и с собой - оставлять путь к отступлению, чтобы было меньше проблем отступать. Перспектива, скажем, потерять работу кажется намного более страшной, если вы не можете даже подумать об этом, чем если вы подсчитаете насколько хватит ваших накоплений, посмотрите текущее состояние рынка труда и составите план действий. Только после этого вы сможете оценить вероятность сохранения вашей работы после временной приостановки производства более-менее беспристрастно. Будьте настоящим трусом, детально запланируйте путь к отступлению, обдумайте каждый шаг, желательно даже до того как доберётесь до поля боя.

Siarshai 23.12.15 в 13:38

0

Идея состоит в том, что требуется меньше храбрости, чтобы представить себе неприятное состояние дел в виде мысленного эксперимента, чем взвесить, насколько оно вероятно. Однако второе сделать становится легче после первого.

Siarshai 23.12.15 в 15:59

0

Помните, что байесианство точное - даже если страшное утверждение звучит маловероятно, всё равно важно подсчитать свидетельства в его пользу крайне тщательно, чтобы получить строгую рациональную вероятность.

Siarshai 23.12.15 в 16:01

0

Нарисовать в уме картину страшного состояния мира совсем не означает, что глубоко внутри вы считаете его истинным. Уметь представить себе что-то неприятное - хороший ментальный инструмент. "Мысли, которые вы не можете думать, контролируют вас больше, чем которые вы говорите вслух" - это происходит даже если такая мысль неверна!

Siarshai 23.12.15 в 16:07

0

Техника оставления пути к отступлению требует определённого минимума честности с самим собой для правильного применения.

Siarshai 23.12.15 в 16:07

0

Для начала: нужно уметь как минимум замечать и признавать, какие идеи вас пугают, а к каким идеям вы привязаны. Но это существенно менее жёсткое испытание, чем честный подсчёт фактов в пользу идеи, которая нагоняет на вас страх. Поможет ли вам, если я скажу, что сам подчас использую этот приём? Рационалист не отметает все эмоции, в конце концов. Есть мысли, которые меня пугают, но которые я считаю ложными. Есть мысли, к которым я привязан, и которые я считаю верными. Но я всё равно планирую пути отступления. Не потому что я планирую отступать, а потому что планирование отступления наперёд помогает думать о проблеме отстранённо.

Siarshai 23.12.15 в 17:36

0

Но гораздо большее испытание для честности с самим собой это действительно принять неприятную позицию как посылку и действительно выработать гипотетический план действий.

Siarshai 23.12.15 в 17:41

0

Когда мы сталкиваемся с враждебной идеей, наш естественный импульс - придумать всевозможные причины, почему она может быть неверна. Так что вы столкнётесь с некоторым психологическим сопротивлением в себе, когда попытаетесь точно представить, как бы выглядел мир, и что бы вы в нём делали, если бы Самая-Драгоценная-Идея была ложью, а Самый-Худший-Страх - явью.

Siarshai 23.12.15 в 17:49

0

Подумайте о всех людях, которые говорят, что без бога мораль была бы невозможной. (И да, эта тема всплывала в разговоре, я не подкидываю вам соломенное чучело.) Если бы теисты могли вообразить свою настоящую реакцию на мир, где бог не существует, они бы поняли, что, нет, они бы не стали пить кровь младенцев. Они смогли бы понять, что атеисты реагируют на несуществование бога так же, как бы отреагировали они сами. Я говорю это, чтобы проиллюстрировать, что визуализировать свои настоящие действия при принятии противоположной точки зрения - значительное испытание,

Siarshai 23.12.15 в 18:09

0

Плюс, всегда контринтуитивно осознавать, что, да, люди переживают вещи.

Siarshai 23.12.15 в 18:10

0

Только что ставшие паралитиками люди совсем не настолько несчастны шесть месяцев спустя, насколько ожидают быть, и так далее. Столь же контринтуитивно осознать, что если мысленно жуткая вещь воплотится, вы как-нибудь с ней справитесь. Паралитики справляются, вы тоже сможете.

Siarshai 23.12.15 в 18:14

0

Посмотрите также литанию Гендлина и литанию Тарского. Что истина - то истина, признание не сделает её хуже. Вы не должны бояться представлять себе мир, которого боитесь. Если этот мир уже настоящий, это не сделает положение дел ещё хуже, и если нет, то тоже не сдвинет состояние в худшую сторону. И помните, что если так получится, что ужасная вещь окажется правдой - совсем не обязательно! - вы, возможно, в самом деле захотите в неё поверить, что вам тоже следует визуализовать. Неверие вас не спасёт.

Siarshai 23.12.15 в 18:21

0

Как много верующих людей сохранило бы веру в бога, если бы они могли правильно вообразить себе гипотетический мир без бога, в котором они бы были атеистами?

Siarshai 23.12.15 в 18:22

0

Оставление пути к отступлению - мощный приём, но не простой. Честная визуализация не отнимает так много сил, как открытое заявление, что бог не существует, но всё равно требует напряжения.

Siarshai 23.12.15 в 18:23

0
Минутку...