Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (50) Но шанс-то есть, правда? (http://lesswrong.com)

Годы назад я говорил с кем-то когда он вскользь отметил что не верит в эволюцию. И я сказал: "Это не девятнадцатый век. Когда Дарвин впервые предложил эволюцию, сомнение могло быть разумным. Но сейчас двадцать первый век. Мы можем читать гены. Люди и шимпанзе имеют 98% общей ДНК. Мы знаем, люди и шимпанзе соответствуют. Это закончилось."

Он сказал, “Может быть ДНК похожи просто по случайности” Я сказал, “Шансы этого что-то вроде двух миллиардов семисот пятидесяти миллионов к одному” Он сказал, “Но шанс всё ещё есть, правда?”

Сейчас есть некоторое количество причин по которым прошлый я не мог требовать строгой моральной победы в этом разговоре. Я использовал эту цифру, думая что это вероятно подходящая мета-степень значительности. Другой причиной является то, что прошлый я не применил концепт калиброванной уверенности. Во всей истории человечества, человек который владел вычисленной вероятностью в 2750,000,000:1 против чего-то, несомненно ошибался более часто чем один раз из 2750,000,000. Например оценка общих генов была пересмотрена к 95%, не 98%—и даже это можно было отнести только к 30,000 известных генов, а не ко всему геному, в коем случае это неправильная мета-степень значительности.

Но я всё ещё считаю ответ другого парня довольно смешным. Я не могу вспомнить, что я сказал далее — наверное что-то вроде "Нет" — но я помню этот случай, поскольку он дал мне несколько озарений в те законы мышления, работу которых можно наблюдать на неосведомлённых людях.

Со мной впервые случилось такое, что человеческая интуиция дала качественное различие между "Нет шансов" и "Очень малый шанс, но стоит учёта." Вы можете увидеть это в дебатах о лотерее на Overcoming Bias, когда кто-то сказал: "Есть большая разница между нулевым шансом выигрыша и эпсилоновым шансом выигрыша," и я ответил: "Нет, есть разница порядка эпсилона, если вы сомневаетесь в этом, то пусть эпсилон будет равен одной гуглоплексовой доле."

Проблема этой теории вероятностей иногда заставляет нас вычислять шанс, который, в самом деле, столь мал, чтобы стоить ментального пространства, требуемого для его учёта—но, в то же время, вы уже вычислили его. Люди смешивают карту с территорией, так что на инстинктивном уровне, слежение символически описывает вероятность ощущающейся как "шанс стоящий учёта," даже если предмет символического описания является числом столь малым, что если бы оно было пятном пыли, вы бы не смогли его увидеть. Мы можем использовать слова, чтобы описать числа, кои малы, но не чувства—ощущение, что малое не существует, не включает достаточно достаточно нейронов или выпускает достаточно нейротрансмиттеров, чтобы быть воспринятым. Поэтому люди покупают лотерейные билеты—никто не может ощутить малость малой вероятности.

Но, что я нахожу даже более очаровательным, было качественное различие между "надёжными" и "сомнительными" аргументами, где если аргумент не является надёжным, вам позволено игнорировать его. Как: если вероятность — ноль, тогда вы должны отказаться от убеждения, но если вероятность один к гуголу, вам позволено оставить его.

Ныне это свободная страна, и никому не следует отправлять вас в тюрьму за незаконные рассуждения, но если вы собираетесь игнорировать аргумент, говорящий что вероятность один к гуголу, почему бы также не игнорировать аргумент, говорящий, что вероятность нулевая? Я имею в виду, раз уж вы всё равно игнорируете свидетельство, с чего бы игнорирование надёжного свидетельства хуже относительно игнорирования сомнительного свидетельства?

Я часто находил, в жизни, то, что я узнал из чудесно-вопиюще плохих примеров других людей, должным образом обобщилось до большего числа незначительных случаев. В этом случае, поворотный урок в том, что если вы не можете игнорировать вероятность одного к гуголу из-за желания, то вы также не можете игнорировать вероятность в 0.9. Это всё та же скользкая дорожка.

Рассмотрите его пример, если вы когда-либо считали себя мыслящим: "Но вы не можете доказать, что я неправ." Если вы собираетесь игнорировать вероятностный контраргумент, почему не игнорировать доказательство тоже?

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/288051

Переводчики: deep_blue_hex