Lesswrong papers / Статьи с Лессронга: Положительное искажение: взгляд во тьму

Однажды, проводя занятие у студентов, я выписал на доске три числа: 2-4-6. "Я загадал правило, - сказал я, - которому подчиняются последовательности трех чисел. Данная последовательность подходит под это правило. Каждый из вас найдет у себя на парте листы бумаги. Выпишите последовательность трех чисел на карточке, а я в зависимости от того, подходит ли последовательность под правило, напишу на листе "да" или "нет". Это можно повторять до тех пор, пока вы не будете уверены, что угадали правило. После этого вы должны записать правило внизу листа."

Remlin 31.05.14 в 07:58

Вот последовательность предположений одного из студентов:

Remlin 31.05.14 в 07:59

4, 6, 2 - Нет

Remlin 31.05.14 в 08:00

4, 6, 8 - Да

Remlin 31.05.14 в 08:00

10, 12, 14 - Да

Remlin 31.05.14 в 08:00

После этого студент записал свою версию правила. Как вы думаете, что он написал? А вы бы тоже остановились здесь или хотели бы протестировать еще триплет чисел? Если да, то какой? Остановитесь здесь и немного подумайте, прежде чем продолжить чтение.

Remlin 31.05.14 в 08:11

Вышеприведенное упражнение основано на классическом эксперименте Питера Уэйсона, задаче "2-4-6". Несмотря на то, что субъекты, которым дают эту задачу, выражают большую уверенность в своих предположениях, только 21% из них успешно угадывают задуманное экспериментатором правило, и все повторные опыты продолжали показывать тот же уровень успехов в районе 20%.

Remlin 31.05.14 в 08:13

Исследование называлось "On the failure to eliminate hypotheses in a conceptual task" (Еженедельник экспериментальной психологии 12: 129-140, 1960). Субъекты, которым предлагалась задача "2-4-6", обычно пытались придумать положительные примеры, а не негативные - они применяли гипотетическое правило для создания триплета, а потом смотрели, будет ли он отмечен как "да".

Remlin 05.06.14 в 08:37

Таким образом, кто-то, кто формирует гипотезу "числа, каждое из которых больше предыдущего на два", тестирует триплет 8-10-12, видит, что подходит и уверенно объявляет свое правило. Кто-то, кто формирует гипотезу Х-2Х-3Х тестирует триплет 3-6-9, обнаруживает, что триплет подходит, и тоже объявит правило.

Remlin 05.06.14 в 08:16

В каждом из этих случаев настоящее правило одно и то же: три любых числа в порядке возрастания.

Remlin 05.06.14 в 08:16

Однако чтобы додуматься до этого, вы должны придумывать триплеты, которые не должны быть правильными, такие как 20-23-26 и проверять, будут ли они отмечены как "нет". Что люди обычно не склонны делать в этом эксперименте. В некоторых случаях субъекты изобретают, "тестируют" и объявляют правила куда более сложные, чем настоящий ответ.

Remlin 05.06.14 в 08:18

Данное когнитивное явление часто валят в одну кучу с предвзятостью подтверждения. Однако, на мой взгляд, явление склонности тестирования положительных примеров, а не отрицательных, следует отделять от явления стремления защитить изначальное убеждение. "Положительное искажение" иногда используется как синоним для предвязтости подтверждения и может описывать данный недостаток куда лучше.

Remlin 05.06.14 в 08:21

Раньше казалось, что теория флогистона может объяснить прекращение огня в закрытой коробке (воздух переполнился флогистоном и больше не может вместить), но теория флогистона точно так же могла бы объяснить и тот вариант, если бы огонь продолжал гореть. Чтобы заметить это, вы должны искать негативные примеры вместо положительных, смотреть на ноль, а не на единицу; что, как показал эксперимент, идет вразрез с человеческим инстинктом.

Remlin 05.06.14 в 08:26

Следуя инстинкту, мы живем в половинчатом мире.

Remlin 05.06.14 в 08:26

Можно днями читать про положительное искажение и все еще не увидеть его в момент срабатывания. Положительное искажение работает не на уровне логики или даже эмоциональной привязанности. Задача 2-4-6 "холодная", логичная, не эмоционально "горячая". Ошибка находится ниже уровня слов, на уровне образов, инстинктивных реакций. Поскольку проблема появляется не из-за следования осознанному правилу, которое говорит "Думай только о положительных примерах", ее нельзя решить, сказав вслух "Мы должны думать как о положительных, так и о негативных примерах." Какие примеры автоматически всплывают в вашей голове? Вы должны уметь еще до вербального формулирования думать о негативном примере, а не о положительном. Вы должны научиться поворачиваться лицом к нулю, а не убегать от него.

Remlin 05.06.14 в 08:55

Некоторое время назад я писал, что сила гипотезы определяется тем, что она не может объяснить, а не тем что может - если вы одинаково легко объясняете любой исход, то у вас ноль знаний. Так, чтобы указать на то, что объяснение не является полезным, недостаточно задуматься над тем, что оно может объяснить хорошо - вам нужно также искать результаты, которые нельзя объяснить, это и будет истинной силой теории.

Remlin 05.06.14 в 08:29

Теперь, после всего сказанного напомню, что вчера я бросил вызов "сложности" как понятию. Один комментатор привел сверхпроводимость и ферромагнетизм как примеры сложности. Я ответил что несверхпроводимость и неферромагнетизм тоже примеры сложности, в чем и состоит проблема. Но я не имел в виду критиковать комментатора! Несмотря на то, что я много читал про предвзятость подтверждения, я не воскликнул "Эврика!", когда в первый раз прочитал про задачу "2-4-6". Это невербальная реакция, работающая очень быстро, и которую надо тренировать заново. Сам я все еще работаю над этим.

Remlin 05.06.14 в 11:46

Так что большая часть навыка рационалиста находится за пределами уровня слов. Это делает трудной работу по попыткам передать Искусство через посты в блоге. Люди согласятся с вами, а уже в следующем предложении сделают нечто, ведущее совершенно в другом направлении. Не подумайте, что я жалуюсь! Основная причина по которой я пишу здесь - наблюдать какие из моих слов не передаются.

Remlin 05.06.14 в 08:34

Прямо сейчас вы ищете положительные примеры положительного искажения или ищете, что вы могли не увидеть из-за положительного искажения? Вы смотрите во свет или во тьму?

Remlin 05.06.14 в 11:49