Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Science Doesn’t Trust Your Rationality

Скотт Ааронсон предполагает, что многомировая интерпретация квантовой механики (ММИ) и либертарианство похожи в том, что они, образно выражаясь, представляют собой примеры "проглатывания пули", а не "уклонения от пуль".

Либертарианство и ММИ это важные философские теории, которые исходят из посылок, с которыми согласны почти все образованные люди (квантовая механика в одном случае и базовая экономика в другом), но при этом приходят к заключениям, которые большинство образованных людей отвергают, или, по крайней мере, приходят в недоумение (существование параллельных Вселенных в одном случае и необходимость закрыть пожарные части в другом)

И это аналогия, которая никогда не пришла бы мне в голову.

Ранее я утверждал, что Наука отвергает ММИ, но Байес принимает (здесь "Науку" я пишу с заглавной буквы, поскольку мы говорим об идеальной форме Науке, а не о простом общественном процессе науки).

Кроме того, мне кажется, что существует глубинная аналогия между либертарианством (с маленькой буквы) и Наукой:

И то, и другое основаны на том, что прагматически не доверяют аргументам, которые лишь звучат разумно.
И то, и другое пытаются построить системы, которые более надёжны, чем люди, которые в них существуют.
И то, и другое признают, что у людей есть недостатки и пытаются укротить эти недостатки и через них сделать систему ещё могущественнее.
Основной аргумент в пользу либертарианства --- это исторически сложившееся недоверие милым теориям вида: "Насколько лучше было бы обществу, если мы просто сделали бы закон XYZ". Если бы такая хитрость работала, то существовала бы корреляция между количеством регулирования и экономическим развитием по мере того, как общество двигалось бы из локального в глобальным оптимум. Но как только какой-то человек или группа интересов получают достаточно власти, чтобы делать всё, что им кажется хорошей идеей, то история говорит нам, что произойдёт что-нибудь похожее на Францию времён Революции или Советский Союз.

Те планы, которые в милых теориях должны сделать всех людей счастливыми, не приводят к результатам, которые предсказывают разумные аргументы. А власть развращает и создает коррупцию.

А потому вы вводите как можно меньше регулирования, потому что не можете доверять милым теориям и не можете доверять людям, которые будут их внедрять.

Вы не грозите пальчиком людям за то, что они эгоистичны. Вы пытаетесь создать эффективную систему производства из эгоистичных участников через требование, чтобы транзакции были добровольными. А потому людям приходится играть в игры с положительной суммой, потому что только так они заставят другую сторону подписать контракт. Если удается ограничить насилие и обеспечить выполнение контрактов, то эгоизм каждого подпитывает глобальную систему производства.

Разумеется, ничто не работает на практике столь же хорошо, как и в теории, и я не буду углубляться в ошибки рынка, трагедию общин и так далее. Главный аргумент за либертарианство не в том, что оно сработает в идеальном мире, а в том, что оно устойчиво к отказам. Или лучше сказать, оно более устойчиво к отказам, чем любой другой экономический принцип. (Люди, которые видят в Либертарианстве идеальное решение для идеальных людей поражают меня тем, что упускают суть "прагматического недоверия".)

Наука впервые проявила себя как протест желанию доверять словам Аристотеля. Если бы люди внутри этой революции всего лишь сказали себе: "А давайте доверять себе, а не Аристотелю!", то ничего не случилось бы и всё прошло бы как Французская Революция.

Но Научная Революция продержалась дольше, потому что --- подобно Американской Революции --- её архитекторы предложили очень странную философию: "А давайте никому не доверять! Даже себе!"

Вначале пришла идея, что мы не можем просто выбросить "сидячее" мышление Аристотеля и заменить его другим "сидячим" мышлением. Нужно было говорить напрямую с Природой и всерьёз прислушиваться к её ответам. Это уже само по себе было гениальным ходом.

Затем пришли сложности с внедрением решения. Люди упрямы и могут не захотеть принят вердикт эксперимента. Должны ли мы неодобрительно грозить им пальцем и приговаривать "Ай-яй-яй"?

Нет. Мы предполагаем и принимаем, что каждый учёный по отдельности может быть исключительно привязан к своим теориям. И мы не предполагаем, что любого можно натренировать избегать этой тенденции и не пытаемся выбрать Высших Судей, которые будут по-настоящему непредвзяты.

Вместо этого мы пытаемся укротить упрямое желание каждого учёного доказать свою личную теорию и говорим: "Сделай новое предсказание эксперимента и проведи этот эксперимент. Если ты прав и эксперимент будет воспроизведён, то ты победил." И до тех пор, пока учёные в это верят, у них есть мотив ставить эксперименты, которые могут фальсифицировать их собственные теории. Только приняв возможность поражения можно победить. И любое великое заявление потребует воспроизведения, а это даёт учёным мотив быть честными, а иначе они испытают боль унижения.

Таким образом, упрямство отдельных учёных укрощено, дабы произвести постоянный поток знаний на групповом уровне. Так Система становится более надёжной, чем её части.

Либертарианство втайне опирается на то, что большинство людей достаточно социальны, чтобы давать чаевые в ресторанах, в которые они никогда не вернутся. Экономика из абсолютно эгоистичных агентов просто схлопнется. Аналогично, Наука опирается на то, что учёные не будут совершать грехи столь вопиющие, что проблемы, к которым такие грехи приведут, невозможно будет рационально разрешить.

Учёные могут продвигать свои теории в играх академической политики, могут лукавить со статистическими методами, чтобы получить возможность победить без шанса проиграть. А ещё может статься, что никто не будет воспроизводить эксперименты. Всё это снижает эффективность науки. Но наука остаётся отказоустойчивой с течением времени.

И та часть, в которой успешные прогнозы принадлежат некой теории и её создателям, и их нельзя утащить в пользу теории, которая появилась позднее без новых предсказаний эксперимента --- это важная особенность такого общественного процесса.

Результатом становится то, что Наука плохо ладит с теорией вероятности. Если сделать вероятностные вычисления верно, то получишь рациональный результат. Однако Наука не доверяет твоей рациональности и не опирается на способность применять теорию вероятности, как на арбитра истины. Наука хочет, чтобы ты поставил эксперимент.

Отнестись к Науке, как к приближению некоторого идеала рациональности из теории вероятности... определённо кажется рационально. Кажется, будто существует исключительно разумный аргумент, что теорема Байеса лежит в основе той структуры, что заставляет Науку работать. Но подчинить Науку общей схеме Байесианства и позволить ему переписывать вердикты Науки, когда это кажется правильным --- это непростой шаг!

Наука выстроена вокруг предположения, что ты слишком туп и склонен к самообману, чтобы просто использовать индукцию по Соломонову. В конце концов, если бы всё было так просто, то нам не потребовался бы общественный процесс науки... правда?

Итак, собираетесь ли вы в конце концов верить в фей квантового "коллапса", что быстрее скорости света? Или вы умнее?

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/77383/470239

Переводчики: sepremento