Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (126) Медитация на любопытство (http://lesswrong.com)

Первая добродетель - это любопытство. - Двенадцать добродетелей рационализма.

Siarshai 21.03.16 в 22:47

Будучи рационалистами, мы обязаны критиковать себя и сомневаться в своих убеждениях... так ведь?

Siarshai 21.03.16 в 22:53

Подумай, что происходит на психологическом уровне, когда ты говоришь: "Мой долг - критиковать свои убеждения." Роджер Желязны когда-то провёл черту между "хотеть стать писателем" и "хотеть писать". Марк Твен сказал: "«Классика» - это что-то, что каждый хочет прочитать, но никто не хочет читать." Критиковать себя из чувства долга - это производная от желания поразмышлять, чтобы иметь возможность сказать потом, что твоя вера не слепа. Это не то же самое, что просто размышлять.

Siarshai 21.03.16 в 22:58

Это влечёт мотивированную остановку размышлений. Ты рассматриваешь возражение к текущему воззрению, затем контраргумент к этому возражению, после чего останавливаешься.

Siarshai 21.03.16 в 23:01

Ты повторяешь этот процесс с несколькими возражениями, пока не ощущаешь, что выполнил своё моральное обязательство, затем снова останавливаешься. Ты достиг изначального психологического императива: избавиться от когнитивного диссонанса, что ты считаешь себя рационалистом, но не попробовал раскритиковать свои идеи. Можно назвать это покупкой рационалистского удовлетворения, попыткой создать тёплое пушистое чувство освобождения от внутреннего долга.

Siarshai 21.03.16 в 23:05

Впоследствии внутренний уровень уверенности возрастёт до отметки, где ты всё ещё можешь оправдывать сохранение текущего мнения, но где новые доводы изнутри или извне уже не смогут вызвать скептицизм.

Siarshai 21.03.16 в 23:08

Если ты действительно любопытен, то тяготеешь к вопросам, которые кажутся самыми многообещающими в плане сдвига уверений. После нескольких итераций распределение твоих мнений скорее всего не будет выглядеть так же как то, с которого ты начал: исследования вызвали перемены в ту или иную сторону, и если любое направление тебя удовлетворяет, то можешь считать себя истинно любопытным.

Siarshai 21.03.16 в 23:12

Противопоставь это подсознательному желанию проводить изыскаение на знакомой территории, чтобы можно было поскорее от него отделаться, а после заявить: "Я поразмышлял", - после чего вернуться к привычному балансу в голове, фундаменту, на котором зиждятся изначальные планы и убеждения.

Siarshai 21.03.16 в 23:16

Что до того, как должно выглядеть истинное любопытство, и какую силу оно в себе несёт, отсылаю к "Сказу о науке и политике". Каждый из персонажей иллюстрировал различные уроки. Феррис, последний персонаж, воплощает силу невинного любопытства, что есть лёгкость, жажда дотянуться до знаний.

Siarshai 21.03.16 в 23:19

Урсула Ле Гуин написала: "У невинности нет сил бороться со злом. Но у нее есть силы творить добро." Невинная любопытность может исказиться, поэтому к опыту рационалиста, влекущему искушённость в мысленных построениях, нужно относиться с подозрением, если мы хотим стать сильнее. Тем не менее, мы можем попытаться сохранить невесомость и страстное стремление к истине невинности.

Siarshai 21.03.16 в 23:25

Как написано в "Двенадцати добродетелях": если в своём сердце ты веришь, что уже знаешь правильный ответ, или не желаешь его знать, то твои вопросы будут бесцельными, а навыки пропадут без достойного направления. Любопытство стремится аннигилировать себя, нет любопытства там, где нет желания узнать ответ.

Siarshai 21.03.16 в 23:28

Попросту не существует хорошей замены искреннему любопытству. "Жгущий зуд знать, превосходящий любую торжественную клятву найти истину." Но любопытство нельзя получить просто пожелав его, не больше, чем можно заставить ногу почувствовать тепло, когда ей холодно. Иногда, всё что у нас есть это торжественные клятвы. Даст ли нам что-то один лишь долг? Для начала, можно попробовать найти интерес в наших обязательных изысканиях, следить в оба ока за искорками искренней интриги, или даже чистого незнания и желания его разрешить. Всё это вместе с отслеживанием возможностей, которые ментально болезненны, от которых инстинктивно одёргиваешься - это не просто негативное мышление.

Siarshai 21.03.16 в 23:37

Также должно помочь тщательный анализ закона сохранения ожидаемых свидетельств. Для каждого нового вопроса, для каждого нового неизвестного доказательства, которое ты внезапно обнаруживаешь, ожидаемая вероятность a posteriori должна совпадать с вероятностью a priori.

Siarshai 22.03.16 в 00:32

В микропроцессе исследований твоя система убеждений должна уметь дрейфовать в любом направлении. Не каждая новая мысль должна перетряхивать всё с ног на голову - скажем, сбивать вероятность с 70% до 30% - но если текущая вероятность чего-либо - 70%, следует в равной степени ожидать как падения до 69%, так и подъёма до 71%. Не следует заранее загадывать, в каком направлении двинется вероятность (в среднем), потому что по законам теории вероятности, если ты знаешь свою цель, ты уже там. Когда ты исследуешь честно, то каждое новое доказательство действительно имеет равный потенциал, и это может помочь сохранить интерес или даже любопытство в микропроцессе изысканий.

Siarshai 22.03.16 в 00:42

Если довод который ты рассматриваешь не нов, то почему ты на него опять обращаешь пристальное внимание? Сюда ли бы ты смотрел, если бы был искренне любопытным? Не атакуешь ли ты подсознательно сильные точки своих убеждений, а не слабые? Не повторяешь ли ты уже принятое доказательство?

Siarshai 22.03.16 в 00:44

Если у тебя получится сойти с вызубренной линии защиты, и удастся отщепить от своих убеждений по кусочку за каждое новое свидетельство, то рано или поздно тебе удастся полностью их растворить, поняв откуда дует ветер достоверных свидетельств.

Siarshai 22.03.16 в 19:43

Другое укрепляющее для любопытства средство - это литания Тарского (которая на самом деле мета-литания, из которой в каждый конкретный момент нам нужен только отрывок). Например, если мне крепко интересно, какая закрытая коробка содержит бриллиант, то вместо мечтаний о всех невероятных возможностях, которые скрывает алмаз, можно повторить литанию Тарского:

Siarshai 22.03.16 в 20:12

Если коробка содержит алмаз,

Siarshai 22.03.16 в 20:13

Я желаю верить, что в коробке алмаз.

Siarshai 22.03.16 в 20:13

Если коробка не содержит алмаза,

Siarshai 22.03.16 в 20:13

Я желаю верить, что в коробке нет алмаза.

Siarshai 22.03.16 в 20:13

Пусть же я не буду цепляться за веру, которой не хочу.

Siarshai 22.03.16 в 20:15

Затем подумайте о возможности, что в коробке бриллианта нет, и всей пользе, что даст в этом случае вера, в том что коробка пуста, и вреде от веры, что коробка полна.

Siarshai 22.03.16 в 20:18

Также прочти литанию Гендлина.

Siarshai 22.03.16 в 20:18

Если ты можешь найти в себе хоть малейший осколок настоящей неопределённости, то охраняй его как лесник оберегает костёр лагеря. Если ты превратишь его в жаркое пламя любопытства, оно сделает тебя стремительным в поиске и задаст цель и смысл в приложении твоих навыков.

Siarshai 22.03.16 в 20:19