Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (39) Законная неуверенность (http://lesswrong.com)

В "Рациональном выборе в неопределенном мире" Робина Доуза описан эксперимент, проведенный Тверским (1,2)

Muyyd 21.11.15 в 01:57

Множество психологических экспериментов были проведены в конце 50-х начале 60-х, в которых субъектов просили предсказать результат события, имевшего элемент случайности и, при этом, еще и предсказуемую базовую ставку. Например, субъектов просили предсказать цвет следующей карты (синяя\красная) при условии, что 70% карты были синими, но последовательность красных и синих карт была совершенно случайной.

Muyyd 21.11.15 в 02:02

В такой ситуации, стратегия, обеспечивающая большее количество успеха - ставить на наиболее часто встречающиеся события. Например, если 70% карт были синими, то предсказывая появление синей карты дает 70% успеха в каждом случае.

Muyyd 21.11.15 в 02:04

Субъекты же предпочитали сопоставлять вероятности - предсказывать наиболее вероятный вариант,

Muyyd 21.11.15 в 02:05

с учетом относительной частоты появления. Например, субъекты предсказывали появление синей карты 70% раз и красной 30% раз. Такая стратегия давала 58% долю успеха, потому что субъекты были правы 70% времени, когда выпадала синяя карта (что происходило с вероятностью .70) и 30% времени, когда выпадала красная карта (что происходило с вероятностью .30); (.70 × .70) + (.30 × .30) = .58.

Muyyd 21.11.15 в 02:12

Даже больше, субъекты предсказывали наиболее часто повторяющееся событие с большей вероятностью, чем оно происходило, но и близко не подходили к частоте в 100%, даже если им платили за точность их предсказаний... Например, субъекты, которым платили по пятаку (0.05 U.S. dollar) (за каждое сбывшееся предсказание из тысячи... предсказывали [наиболее часто встречающееся событие] 76%.

Muyyd 21.11.15 в 02:30

Не стоит думать, что этот эксперимент про небольшие изъяны в игорных стратегиях. Он кратко рассказывает о наиболее важной идее всей рациональности.

Muyyd 21.11.15 в 02:31

Субъекты продолжали выбирать красный, как будто они полагали, что способны предугадать случайную последовательность. Доуз пишет про это: "Несмотря на получение фидбека от тысячи случаев, субъекты не могли поверить, что в это ситуации они не в состоянии предугадать".

Muyyd 24.11.15 в 21:39

Но ошибка должна иметь более глубокие последствия. Даже если субъекты сформулировали какую-то гипотезу, им совершенно необязательно делать ставки на ее основе. Они могут говорить: "Если гипотеза верна - следующая карта будет красной", и ставить на синюю. Они могут выбирать синюю каждый раз, собирая как можно больше пятаков, отмечая мысленно как можно больше паттернов, которые они замечают. Если их предсказания сбываются, они могут легко переключится на новую стратегию.

Muyyd 24.11.15 в 21:41

Я бы не стал упрекать субъектов за постоянное изобретение новых гипотез - откуда им знать, что цепочка за границами из способностей предсказывать? Но я буду упрекать за ставки на догадки, когда в этом не было необходимости для сбора информации, и буквально сотни предыдущих догадок были опровергнуты.

Muyyd 24.11.15 в 21:48

Неужто люди настолько самонадеянны?

Muyyd 24.11.15 в 21:49

Я бы предположил, дело обстоит проще - что стратегия "всегда-на-синее" просто не приходила субъектам в голову.

Muyyd 24.11.15 в 21:50

Люди видят кучу синих карт вперемешку с несколькими красными, и полагают, что выигрышная стратегия - больше на синий, но иногда на красный.

Muyyd 24.11.15 в 21:51

Идея оптимальной стратегии, с учетом неполной информации, не предполагающая ставку на типичную последовательность карт - контринтуитивина.

Muyyd 24.11.15 в 21:53

Идея оптимальной стратегии, предполагающая законное поведение, даже если среда содержит элементы случайности - контринтуитивна.

Muyyd 24.11.15 в 21:55

Кажется, что твое поведение, следом за окружающей средой, должно быть непредсказуемым, но нет! Случайны ключ не отпирает случайный замок просто потому что они "оба случайные".

Muyyd 24.11.15 в 21:56

Ты не гасишь огонь огнем, ты гасишь огонь водой. Но эта мысль подразумевает лишний шаг, новый концепт, не активируемый напрямую формулировкой задачи. Поэтому, не приходящий в голову первым.

Muyyd 24.11.15 в 21:58

В дилемме красных и синих карт наше неполное знание говорит нам ставить в каждом раунде на синюю. Совет, даваемый нам нашим неполным знанием, одинаков от раунда к раунду. Если 30% времени мы будет идти против нашего неполного знания и ставить на красную карту, мы будем проваливаться, ведь теперь, мы нарочно тупим, ставя на, как нам прекрасно известно, менее вероятный исход.

Muyyd 24.11.15 в 22:07

Если ты будешь ставить на красную карту в каждом раунде, то ты будешь проигрывать так, как это максимально возможно; ты будешь на 100% тупым. Если ты ставишь на красную карту 30% времени, то ты оказываешься на 30% тупым.

Muyyd 24.11.15 в 22:09

Если твое знание неполно, если реальность, как кажется, содержит элемент случайности - случайное поведение не решит проблему. Делая свое поведение случайным, напротив, ты уводишь себя от цели, а не приближаешь. Если реальность туманна, выбрасывание интеллекта лишь ухудшает ситуацию.

Muyyd 24.11.15 в 22:12

Это контринтуитивно - думать, что оптимальная стратегия предполагает законное поведение, даже в условиях неопределенности.

Muyyd 24.11.15 в 22:13

Поэтому не так уж много вокруг рационалистов; для большинства, восприятие хаотичного мира предполагает хаотичные стратегии борьбы с ним. Тебе надо сделать лишний шаг, подумать мысль, не приходящую в голову первой, для того, чтобы сообразить что-то иное для борьбы с огнем, чем огонь.

Muyyd 24.11.15 в 22:16

Ты слышал, как непросвещенные говорят: "Рациональность работает лишь при взаимодействии с рациональными людьми, но мир нерационален". Но выбрасывание собственной рациональности, при встрече с нерациональным оппонентом, не поможет. Есть законные формы мышления, которые все же генерируют наилучший ответ, даже при встрече с оппонентом, нарушающим законы. Теория принятия решений на сгорает синим пламенем при встрече с оппонентом, не подчиняющимся этой теории.

Muyyd 24.11.15 в 22:20

Это настолько же неочевидно, как и всегда ставить на синюю карту, при встрече с совокупностью синих и красных карт. Но каждая ставка на красную - ожидаемый проигрыш, как и каждое отступление от принципов Пути, когда рассуждаешь.

Muyyd 24.11.15 в 22:23

Как много эпизодов Звездного Пути опровергается? Как много теорий ИИ?

Muyyd 24.11.15 в 22:23