Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (46) Правильное использование смирения (http://lesswrong.com)

Широко известно, что хорошая наука требует определенного рода скромности. А вот касательно конкретного рода скромности идут споры.

Remlin 14.03.16 в 15:03

Представим креациониста, который говорит: "Но кто может на самом деле знать, верна ли эволюция? Это же только теория. Вы должны быть более скромными и гибкими. Скромность ли это? Креационист практикует весьма выборочную сверхнизкую уверенность, отказываясь принимать массивные объемы свидетельств в пользу того заключения, которое кажется ему неудобным. Я бы сказал, что независимо от того, называете ли вы это "скромностью" или нет, это все равно неверный шаг в танце.

Remlin 14.03.16 в 15:04

Как насчет инженера, который скромно разрабатывает безопасные механизмы на производстве, даже если он чертовски уверен, что опасности нет? Это кажется, как по мне, хорошим видом скромности. Исторически, отнюдь не были редкостью ситуации, когда инженер был уверен в новой машине, а она все равно ломалась.

Remlin 14.03.16 в 15:08

А как насчет студента, скромно дважды проверяющего ответы на тест по математике? И снова я назову это хорошим видом скромности.

Remlin 14.03.16 в 15:09

Как насчет студента, который говорит: "Ну, не важно сколько раз я проверю, я не могу быть уверен в том, что все ответы правильные" и поэтому не проверяет даже один раз? Даже если этот выбор исходит из тех же эмоций, что и предыдущий - он не так мудр.

Muyyd 16.05.16 в 05:15

Предложишь учиться усердней и студент ответит: "Нет, это не сработает в моем случае; я совсем не умник, как вы; не, такому как мне, о лучшем и мечтать нельзя". Это социальная скромность, а не смирение. Она основана на регуляции статусов в племени, а не на научном процессе. Если попросить кого-то быть более смиренным, то, по-умолчанию, они будут ассоциировать эти слова с социальной скромностью - интуитивным, ежедневным, релевантным в среде далеких предков концептом.Научная скромность - свежее изобретение и оно не совсем социальное. Такая скромность будет практиковаться даже если человек совсем один в космосе, на множество световых лет удален от Земли - никто не смотрит. Или даже если вы получили полную гарантию того, что вас не будут критиковать, не важно какие мысли вы подумаете или действия произведете. Вы все еще проверите вычисления дважды, если вы мудры.

Muyyd 16.05.16 в 05:22

Студент скажет: "Но я видел как проверявшие дважды студенты все равно допускали ошибки. Или из-за проблемы индукции 2 + 2 = 5 в этот раз? Что бы я не сделал, я не могу быть полностью уверен в себе". Звучит по взрослому и скромно. Но нет совпадения в том, что студент желает поскорей сдать тест и отправиться домой играть.

Muyyd 16.05.16 в 05:25

Конец старой парадигмы в физике не всегда знаменует себя раскатами грома; бывает он начинается с того, что выглядит как мелкий недочет... Но у физиков есть эта высокомерная идея о том, что их теории должны работать всегда и везде; не в большем ряде случаев - поэтому они внимательно изучают даже недочеты. Часто такой недочет легко исправляется. Редко то, что выглядело недочетом растет и взрывает теорию изнутри. Ибо сказано: "Не преследуя совершенства ты остановишься, не успев сделать и шага".

Muyyd 16.05.16 в 05:30

Но как дерзко это с социальной точки зрения - желать всегда быть правым! Мне на полном серьезе приходят в голову мысли, что, если бы Наука заявляла, что эволюционная теория верна в большинстве случаев, но не во всех; или если бы Наука заявляла, что, может быть, Земля иногда бывает и плоской, кто знает - тогда ученые бы имели социальную репутацию получше. Наука выглядела бы менее конфликтной, не пришлось бы спорить с теми, кто заявляет о том, что Земля плоская - оставалось бы место для компромисса. Когда ты много споришь, люди думают что ты очень конфликтный. Если ты отказываешься идти на компромиссы - еще хуже. Рассмотрим это с позиции статуса в племени: ученые определенно получили право на экстра статус в обмен на социально важные инструменты вроде медицины и "смиренность" - добродетель, которая часто понимается ошибочно.

Muyyd 16.05.16 в 05:37

Это не означает, что мы должны расстаться с концептом смирения, но что следует быть аккуратным в его использовании. Возможно, будет полезно рассматривать "скромные" действия с позиции: "Действуя так я становлюсь сильней или слабей?". Если рассматривать проблему индукции, думая о том, сколько простоит построенные тобой мост, то, очевидно, ни в чем нельзя быть абсолютно уверенным. Однако, есть огромная разница между добавлением в конструкцию дополнительных кабелей и опор и пожиманием плечами; очевидно, какое из действий сделает мост крепче.

Muyyd 16.05.16 в 05:48

Чаще всего "рациональное смирение" употребляется лишь как предлог пожать плечами. Купивший лотерейный билет скажет: "Ты не можешь знать заранее, что я проиграю". Тот, кто не верит в эволюцию говорит: "Но ты не можешь доказать, что это правда". Проблема в мотивированном скептицизме - а.к.а. искажения опровержения, т.е. стремление с большей силой искать опровержения предположениям, опасным для полюбившейся нам гипотезы. Смирение, в целом, чаще всего лишь предлог не верить в то, во что не хочется верить; в конце концов, ты же не можешь быть полностью уверен. Берегись таких оправданий!

Muyyd 16.05.16 в 05:53

Следующая проблема заключается в том, что смирение слишком легко изобразить. Деннет в "Разрушая Заклинание: Религия как Естественный Феномен", указывает на то, что хотя во многие религиозные заявления трудно поверить, не так сложно для людей верить в то, что они должны в них верить. Деннет называет это "верой в убеждение". Что значит действительно предполагать, по-настоящему верить в то, что три равняется одному? Гораздо проще верить что ты должен каким-либо образом верить в то, что три равняется одному и отвечать так в подобающее время в церкви. Деннет предполагает, что большинство "религиозных убеждений" должны рассматриваться как "религиозные заявления" - как то, во что люди считают должным верить и говорить.

bartolomay 12.08.16 в 07:57

Слишком просто отвечать на каждый контраргумент - "Ну, конечно, я могу ошибаться". Затем, послушно поклонившись в сторону Смирения, ты можешь идти своей дорогой, не изменив ничего.

bartolomay 12.08.16 в 07:59

Желание заявить как можно больше очков с наименьшими усилиями всегда соблазнительно. Желание аккуратно объединять всю входящую информацию способом, ведущим нас к изменению наших убеждений, крайне мало. Джон Кеннет Гэлбрейт сказал: "Сталкиваясь с выбором между изменением своего мировоззрения и доказательства, что в этом нет необходимости, почти все начинают с доказательства". И чем больше неудобства, связанные с изменением мировоззрения, тем больше усилий люди тратят на доказательство.

bartolomay 12.08.16 в 08:10

Но если ты собираешься продолжать делать то же что и раньше, нет смысла идти так далеко для рационализации этого. Я часто вижу как люди, сталкиваясь с новой информацией, по всей видимости принимают её, а затем аккуратно объясняют почему они собираются сделать в точности то же самое, что они планировали сделать раньше, но уже с другим оправданием. Суть мышления в изменении наших планов; если ты собираешься придерживаться тех же самых планов в любом случае, зачем беспокоиться их оправданием? Сталкиваясь с новой информацией, сложная часть в обновлении, реагировании, нежели просто позволить информации исчезнуть в черной дыре. И неправильно понятое смирение создает превосходную черную дыру - все что тебе надо сделать, это признать, что ты можешь ошибаться. Поэтому написано: "Быть смиренным значит принимать конкретные действия в ожидании собственных ошибок. Признать свою подверженность ошибкам и ничего не делать по этому поводу не есть смирение; это хвастовство своей скромностью".

bartolomay 12.08.16 в 08:41