Lesswrong papers / Статьи с Лессронга: Двоемыслие: выбирая быть искаженным

В руке у О’Брайена появилась газетная вырезка. Секунд пять она находилась перед глазами Уинстона. Это была фотография — и не приходилось сомневаться, какая именно. Та самая. Джонс, Аронсон и Резерфорд на партийных торжествах в Нью-Йорке — тот снимок, который он случайно получил одиннадцать лет назад и сразу уничтожил. Одно мгновение он был перед глазами Уинстона, а потом его не стало. Но он видел снимок, несомненно, видел! Отчаянным, мучительным усилием Уинстон попытался оторвать спину от койки. Но не мог сдвинуться ни на сантиметр, ни в какую сторону. На миг он даже забыл о шкале. Сейчас он хотел одного: снова подержать фотографию в руке, хотя бы разглядеть ее.

Remlin 26.10.14 в 09:29

— Она существует! — крикнул он.

Remlin 26.10.14 в 09:29

— Нет, — сказал О’Брайен.

Remlin 26.10.14 в 09:29

Он отошел.

Remlin 26.10.14 в 09:29

В стене напротив было гнездо памяти. О’Брайен поднял проволочное забрало. Невидимый легкий клочок бумаги уносился прочь с потоком теплого воздуха: он исчезал в ярком пламени. О’Брайен отвернулся от стены.

Remlin 26.10.14 в 09:29

— Пепел, — сказал он. — Да и пепла не разглядишь. Прах. Фотография не существует. Никогда не существовала.

Remlin 26.10.14 в 09:29

— Но она существовала! Существует! Она существует в памяти. Я ее помню. Вы ее помните.

Remlin 26.10.14 в 09:30

— Я ее не помню, — сказал О’Брайен.

Remlin 26.10.14 в 09:30

Уинстон ощутил пустоту в груди. Это — двоемыслие. Им овладело чувство смертельной беспомощности. Если бы он был уверен, что О’Брайен солгал, это не казалось бы таким важным. Но очень может быть, что О’Брайен в самом деле забыл фотографию. А если так, то он уже забыл и то, как отрицал, что ее помнит, и что это забыл — тоже забыл. Можно ли быть уверенным, что это просто фокусы? А вдруг такой безумный вывих в мозгах на самом деле происходит? — вот что приводило Уинстона в отчаяние.

Remlin 26.10.14 в 09:30

- Джордж Оруэлл, 1984

Remlin 26.10.14 в 09:31

Что, если самообман помогает нам быть счастливыми? Что, если избегание и преодоление искажений делает нас наоборот - несчастными? Конечно, настоящая мудрость была бы рациональностью второго порядка, выбором когда быть рациональным. Когда вы могли бы решать, какие когнитивные искажения должны управлять вами, для максимизации своего счастья.

Remlin 26.10.14 в 11:57

Оставляя в стороне моральный аспект, я сомневаюсь что такой лунатичный вывих в сознании мог бы на самом деле существовать.

Remlin 26.10.14 в 21:43

Рациональность второго порядка подразумевает, что в некотором смысле вы должны думать про себя "А теперь я, чтобы сделать себя счастливым, иррационально верю, что выиграю в лотерею." Но у нас нет такого прямого контроля над нашими убеждениями. Вы не можете заставить себя поверить что небо зеленое усилием воли. Вы можете быть способны поверить, что верите - хотя я только что усложнил задачу, указав на это проблемное место. (Всегда пожалуйста!) Вы даже можете верить, что вы счастливы и что обманули себя; но вы на самом деле не будете счастливы и самообмануты.

Remlin 26.10.14 в 21:48

Чтобы рациональность второго порядка была подлинно рациональной, вам бы сначала нужна была бы хорошая модель реальности для экстраполяции последствий рациональности и иррациональности. Если потом вы решаете сделать выбор в сторону иррациональности первого порядка, вам бы понадобилось забыть эту точную точку зрения. И затем забыть сам акт забывания. Я не подвержен логическому заблуждению обобщения на основе вымышленного свидетельства, но думаю, что Оруэлл проделал хорошую работу по экстраполяции того, куда ведет этот путь.

Remlin 26.10.14 в 21:52

Вы не можете знать последствия бытия искаженным, пока не сумеете выйти из-под власти искажений. А потом уже слишком поздно для самообмана.

Remlin 26.10.14 в 21:55

Другая альтернатива - слепо выбирать оставаться во власти искажений, без ясной идеи о последствиях. Но это не рациональность второго порядка. Это упорствование в глупости.

Remlin 26.10.14 в 21:57

Будьте иррационально оптимистичным насчет своих навыков вождения и будете счастливо беспечным там, где другие потеют и бояться. Вы не доставите себе труда пристегнуться. Вы будете счастливо беспечным день, неделю, год. А потом УДАР и остаток жизни вы будете испытывать желание почесать фантомную конечность. Или будете парализованы ниже шеи. Или мертвы. Это не является неминуемым, но возможно; насколько это вероятно? Вы не можете провести эту сделку рационально, пока не узнаете реальный уровень своих водительских навыков, чтобы понять, какой опасности себя подвергаете. Вы не можете провести эту сделку рационально, пока не знаете о искажениях наподобие пренебрежения вероятностью.

Remlin 26.10.14 в 22:04

Не имеет значения сколько дней пройдут в слепом невежестве, достаточно будет единичной ошибки, чтобы аннулировать человеческую жизнь, чтобы перевесить все пенни, собранные вами на путях глупости.

Remlin 26.10.14 в 22:07

Один из ключевых кусочков совета, который я даю целеустремленным рационалистам - "Не пытайтесь быть умными." И "прислушивайтесь к этим тихим надоедливым сомнениям." Если вы не знаете, вы не знаете, чего вы не знаете, вы не знаете, как много вы не знаете, и вы не знаете, сколько вам нужно знать.

Remlin 26.10.14 в 22:09

Нет рациональности второго порядка. Есть только слепой прыжок, который может привести, а может и не привести в каверну с раскаленной лавой. И если вы уже знаете о конечном пункте прыжка, уже поздно зажмуривать глаза.

Remlin 26.10.14 в 22:10

Но люди пренебрегают этим, поскольку они не знают, чего они не знают. К неизвестным переменным, если неизвестно даже об их существовании, невозможно получить доступ. Люди не концентрируются на пустой области карты, а просто рассматривают ее так, как если бы это соответствовало пустой территории. Когда они рассматривают возможность слепого прыжка, они проверяют свою память на предмет опасностей и видят, что на их пустой карте нет каверн с лавой. Так почему бы не прыгнуть?

Remlin 26.10.14 в 22:13

Был там. Пробовал. Обжегся. Не пытайтесь быть умными.

Remlin 26.10.14 в 22:14

Однажды я сказал подруге о своих подозрениях, что счастье глупости сильно переоценивают. А она потрясла серьезно головой и сказала "Нет, не сильно. Правда не сильно."

Remlin 26.10.14 в 22:15

Возможно, существуют глупые люди. Возможно, они более счастливы, чем вы. Жизнь нечестна и вы не станете счастливее завидуя тому, чего вы не можете иметь. Я подозреваю, что большая часть читателей Overcoming Bias не смогут достичь "счастья глупости", если попытаются. Этот путь закрыт для вас. Вы никогда не сможете достичь этой степени невежества, вы не сможете забыть что вы знаете, вы не можете перестать видеть то, что видите.

Remlin 26.10.14 в 22:21

Счастье глупости закрыто для вас. Вы никогда не будете иметь его даже ненадолго вследствие повреждения мозга и скорее всего даже тогда нет. Вы должны размышлять, думаю, является ли счастье глупости оптимальным - если это наибольшее счастье, к которому может стремиться человек - но это не имеет смысла. Этот путь для вас закрыт, даже если бы был доступен.

Remlin 26.10.14 в 22:24

Все, что вам теперь осталось это стремиться к тому счастью, которого может достичь рационалист. Я думаю, что оно может быть даже больше, в конце концов. Есть ограниченные пути и есть пути без конца; плато для лени и горы, которые нужно покорять; и если покорение занимает больше усилий, гора все еще оказывается выше в конце.

Remlin 26.10.14 в 22:31

Также в жизни есть нечто большее, чем счастье; и чужое счастье, а не ваше собственное, может быть ставкой в ваших решениях.

Remlin 26.10.14 в 22:32

Но это спорно. К моменту, когда вы понимаете, что у вас есть выбор, выбора уже нет. Вы не можете перестать видеть то, что видите. Другой путь закрыт.

Remlin 26.10.14 в 22:33