Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (86) Не верь, что самообман удался (http://lesswrong.com)

Оглавление
Английский оригинал Перевод на русский

Сожалеем, но текст оригинала доступен только зарегистрированным пользователям.

Не хочу, чтобы показалось, будто я придираюсь к Kurige, но думаю, что следует ожидать определённого потока вопросов, если ты показываешься на Less Wrong и делаешь заявления вроде

Siarshai 17.12.15 в 09:19

0
+1

"Идея, которая позволила мне объяснить несоответствия, которые я чувствую, когда говорю с другими христианами - это мысль, что где-то на пути к моему текущему мировоззрению я сделал большой скачок от слепой веры к чему-то вроде Оруэлловского двоемыслия."

Siarshai 17.12.15 в 09:26

0

"Если ты знаешь, что это двоемыслие... как ты можешь всё ещё в него верить?" - не могу я не спросить.

Siarshai 17.12.15 в 09:29

0
+1

Или: я выбрал верить в существование бога - сознательно и преднамеренно. Эта вера, как бы то ни было, не имеет абсолютно никакого эффекта на действительное существование бога.

Siarshai 17.12.15 в 09:31

0

Если ты знаешь, что твоё убеждение никак не кореллирует с реальностью, как ты всё ещё можешь его придерживаться?

Siarshai 17.12.15 в 09:32

0

Не должно ли осознание нутром "Стойте-ка, небо на самом деле не зелёное" сразу следовать за мыслю "Моя карта, утверждающая 'небо зелёное', не имеет никаких причин соответствовать территории"?

Siarshai 17.12.15 в 09:36

0

Ну... видимо нет.

Siarshai 17.12.15 в 09:36

0

По крайней мере частью этой загадки может быть моё объяснение парадокса Мура ("На улице дождь, но я не верю в это") - что люди внутренне принимают положительные ассоциации, связанные с утверждением, за настоящую достоверность.

Siarshai 17.12.15 в 09:46

0

Но другой частью может быть - напротив негодованию, которое я изначально собирался сюда поместить - что действительно довольно просто не перепрыгнуть с "Карта, отражающая территорию, сказала бы 'X'" к настоящей вере в "X". Нужно немного потрудиться, чтобы объяснить концепцию разума, как машины для построения соответствия карта-территория, и даже после этого, нужно приложить усилия, чтобы понять выводы отсюда на внутреннем уровне.

Siarshai 17.12.15 в 09:55

0

Но другая часть того чем это просто могло быть — в противоположность негодованию, которое я изначально хотел сюда поместить — действительная лёгкость застрять на шаге: "Карта, отражающая территорию, сказала бы "X"" — не перейдя к действительной убеждённости в "X". Потребуется немного потрудиться, чтобы объяснить идеи о разуме как строителе картотерриториальных связей, и даже тогда, чтобы понять смысл нутром, может потребоваться больше работы.

deep_blue_hex 20.03.16 в 12:49

0
+1

Теперь я понимаю, что когда писал: "Вы не можете заставить себя верить, что небо синее, усилием воли", - я не был лишь беспристрастным обозревателем существующих фактов, а также пытался внушить самоисполняющееся пророчество.

Siarshai 17.12.15 в 10:00

0

Наверное, было бы мудрым решением повторять себе: "Я не смогу безнаказанно пользоваться двоемыслием! Глубоко внутри, я знаю, что это неправда! Если я узнаю, что у моей карты нет причин кореллировать с территорией, я не буду верить ей!"

Siarshai 17.12.15 в 10:03

0

Потому что так - если когда-нибудь появится соблазн попытаться обмануть себя - мысли "Но я же знаю, что это не правда!" и "Я не могу обмануть себя!" будут постоянно приходить на ум, и вы в самом деле с меньшей вероятностью преуспеете в самообмане. Вы с большей вероятностью поймёте на уровне подсознания, что убеждение себя в X не сделает X истиной.

Siarshai 17.12.15 в 10:07

0

Если вы будете говорить себе, что не можете преднамеренно поверить, что небо зелёное, тогда вы с меньшей вероятностью обманете себя на том или ином уровне: на уровне действительной веры во что-то или попадания в ловушку парадокса Мура, веры в веру или веры в самообман.

Siarshai 17.12.15 в 10:11

0

Если вы будете повторять, что в глубине души вы будете знать правду...

Siarshai 17.12.15 в 10:11

0

Если вы будете повторять, что можете просто глядеть на хитро сконструированную ложную карту, и знать, что она она ложная, не ожидая никакой корреляции с территорией, и следовательно, не смотря на всю причудливость сооружения, не будете вкладывать в неё доверия...

Siarshai 17.12.15 в 11:40

0

Если вы будете повторять, что согласованность с реальным миром победит и не позволит вам верить в придуманные вещи на объектном уровне, как только вы придёте к мета-уровненному осознанию, что карта не отражает территорию, тогда положение дойдёт до критического момента и вы в самом деле можете не суметь с ним справиться.

Siarshai 17.12.15 в 11:50

0
+1

Когда дело доходит до умышленного самообмана, вы должны верить в собственное неумение этого делать!

Siarshai 17.12.15 в 11:41

0

Скажите себе, что попытка обречена - и она будет!

Siarshai 17.12.15 в 11:41

0

Это сила позитивного мышления или сила негативного мышления?

Siarshai 17.12.15 в 11:42

0

В любом случае, кажется, что это мудрая предосторожность.

Siarshai 17.12.15 в 11:42

0
Минутку...