Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (126) Медитация на любопытство (http://lesswrong.com)

Первая добродетель - это любопытство. - Двенадцать добродетелей рационализма.

Будучи рационалистами, мы обязаны критиковать себя и сомневаться в своих убеждениях... так ведь?

Подумай, что происходит на психологическом уровне, когда ты говоришь: "Мой долг - критиковать свои убеждения." Роджер Желязны когда-то провёл черту между "хотеть стать писателем" и "хотеть писать". Марк Твен сказал: "«Классика» - это что-то, что каждый хочет прочитать, но никто не хочет читать." Критиковать себя из чувства долга - это производная от желания поразмышлять, чтобы иметь возможность сказать потом, что твоя вера не слепа. Это не то же самое, что просто размышлять.

Это влечёт мотивированную остановку размышлений. Ты рассматриваешь возражение к текущему воззрению, затем контраргумент к этому возражению, после чего останавливаешься.

Ты повторяешь этот процесс с несколькими возражениями, пока не ощущаешь, что выполнил своё моральное обязательство, затем снова останавливаешься. Ты достиг изначального психологического императива: избавиться от когнитивного диссонанса, что ты считаешь себя рационалистом, но не попробовал раскритиковать свои идеи. Можно назвать это покупкой рационалистского удовлетворения, попыткой создать тёплое пушистое чувство освобождения от внутреннего долга.

Впоследствии внутренний уровень уверенности возрастёт до отметки, где ты всё ещё можешь оправдывать сохранение текущего мнения, но где новые доводы изнутри или извне уже не смогут вызвать скептицизм.

Если ты действительно любопытен, то тяготеешь к вопросам, которые кажутся самыми многообещающими в плане сдвига уверений. После нескольких итераций распределение твоих мнений скорее всего не будет выглядеть так же как то, с которого ты начал: исследования вызвали перемены в ту или иную сторону, и если любое направление тебя удовлетворяет, то можешь считать себя истинно любопытным.

Противопоставь это подсознательному желанию проводить изыскаение на знакомой территории, чтобы можно было поскорее от него отделаться, а после заявить: "Я поразмышлял", - после чего вернуться к привычному балансу в голове, фундаменту, на котором зиждятся изначальные планы и убеждения.

Что до того, как должно выглядеть истинное любопытство, и какую силу оно в себе несёт, отсылаю к "Сказу о науке и политике". Каждый из персонажей иллюстрировал различные уроки. Феррис, последний персонаж, воплощает силу невинного любопытства, что есть лёгкость, жажда дотянуться до знаний.

Урсула Ле Гуин написала: "У невинности нет сил бороться со злом. Но у нее есть силы творить добро." Невинная любопытность может исказиться, поэтому к опыту рационалиста, влекущему искушённость в мысленных построениях, нужно относиться с подозрением, если мы хотим стать сильнее. Тем не менее, мы можем попытаться сохранить невесомость и страстное стремление к истине невинности.

Как написано в "Двенадцати добродетелях": если в своём сердце ты веришь, что уже знаешь правильный ответ, или не желаешь его знать, то твои вопросы будут бесцельными, а навыки пропадут без достойного направления. Любопытство стремится аннигилировать себя, нет любопытства там, где нет желания узнать ответ.

Попросту не существует хорошей замены искреннему любопытству. "Жгущий зуд знать, превосходящий любую торжественную клятву найти истину." Но любопытство нельзя получить просто пожелав его, не больше, чем можно заставить ногу почувствовать тепло, когда ей холодно. Иногда, всё что у нас есть это торжественные клятвы. Даст ли нам что-то один лишь долг? Для начала, можно попробовать найти интерес в наших обязательных изысканиях, следить в оба ока за искорками искренней интриги, или даже чистого незнания и желания его разрешить. Всё это вместе с отслеживанием возможностей, которые ментально болезненны, от которых инстинктивно одёргиваешься - это не просто негативное мышление.

Также должно помочь тщательный анализ закона сохранения ожидаемых свидетельств. Для каждого нового вопроса, для каждого нового неизвестного доказательства, которое ты внезапно обнаруживаешь, ожидаемая вероятность a posteriori должна совпадать с вероятностью a priori.

В микропроцессе исследований твоя система убеждений должна уметь дрейфовать в любом направлении. Не каждая новая мысль должна перетряхивать всё с ног на голову - скажем, сбивать вероятность с 70% до 30% - но если текущая вероятность чего-либо - 70%, следует в равной степени ожидать как падения до 69%, так и подъёма до 71%. Не следует заранее загадывать, в каком направлении двинется вероятность (в среднем), потому что по законам теории вероятности, если ты знаешь свою цель, ты уже там. Когда ты исследуешь честно, то каждое новое доказательство действительно имеет равный потенциал, и это может помочь сохранить интерес или даже любопытство в микропроцессе изысканий.

Если довод который ты рассматриваешь не нов, то почему ты на него опять обращаешь пристальное внимание? Сюда ли бы ты смотрел, если бы был искренне любопытным? Не атакуешь ли ты подсознательно сильные точки своих убеждений, а не слабые? Не повторяешь ли ты уже принятое доказательство?

Если у тебя получится сойти с вызубренной линии защиты, и удастся отщепить от своих убеждений по кусочку за каждое новое свидетельство, то рано или поздно тебе удастся полностью их растворить, поняв откуда дует ветер достоверных свидетельств.

Другое укрепляющее для любопытства средство - это литания Тарского (которая на самом деле мета-литания, из которой в каждый конкретный момент нам нужен только отрывок). Например, если мне крепко интересно, какая закрытая коробка содержит бриллиант, то вместо мечтаний о всех невероятных возможностях, которые скрывает алмаз, можно повторить литанию Тарского:

Если коробка содержит алмаз,

Я желаю верить, что в коробке алмаз.

Если коробка не содержит алмаза,

Я желаю верить, что в коробке нет алмаза.

Пусть же я не буду цепляться за веру, которой не хочу.

Затем подумайте о возможности, что в коробке бриллианта нет, и всей пользе, что даст в этом случае вера, в том что коробка пуста, и вреде от веры, что коробка полна.

Также прочти литанию Гендлина.

Если ты можешь найти в себе хоть малейший осколок настоящей неопределённости, то охраняй его как лесник оберегает костёр лагеря. Если ты превратишь его в жаркое пламя любопытства, оно сделает тебя стремительным в поиске и задаст цель и смысл в приложении твоих навыков.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: перевод редактируется

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/293841

Переводчики: Siarshai