Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Science Doesn’t Trust Your Rationality

Скотт Ааронсон предполагает, что многомировая интерпретация квантовой механики (ММИ) и либертарианство похожи в том, что они, образно выражаясь, представляют собой примеры "проглатывания пули", а не "уклонения от пуль".

sepremento 26.04.20 в 08:02

Либертарианство и ММИ это важные философские теории, которые исходят из посылок, с которыми согласны почти все образованные люди (квантовая механика в одном случае и базовая экономика в другом), но при этом приходят к заключениям, которые большинство образованных людей отвергают, или, по крайней мере, приходят в недоумение (существование параллельных Вселенных в одном случае и необходимость закрыть пожарные части в другом)

sepremento 26.04.20 в 08:04

И это аналогия, которая никогда не пришла бы мне в голову.

sepremento 26.04.20 в 08:05

Ранее я утверждал, что Наука отвергает ММИ, но Байес принимает (здесь "Науку" я пишу с заглавной буквы, поскольку мы говорим об идеальной форме Науке, а не о простом общественном процессе науки).

sepremento 26.04.20 в 08:06

Кроме того, мне кажется, что существует глубинная аналогия между либертарианством (с маленькой буквы) и Наукой:

sepremento 26.04.20 в 08:07

И то, и другое основаны на том, что прагматически не доверяют аргументам, которые лишь звучат разумно.
И то, и другое пытаются построить системы, которые более надёжны, чем люди, которые в них существуют.
И то, и другое признают, что у людей есть недостатки и пытаются укротить эти недостатки и через них сделать систему ещё могущественнее.
Основной аргумент в пользу либертарианства --- это исторически сложившееся недоверие милым теориям вида: "Насколько лучше было бы обществу, если мы просто сделали бы закон XYZ". Если бы такая хитрость работала, то существовала бы корреляция между количеством регулирования и экономическим развитием по мере того, как общество двигалось бы из локального в глобальным оптимум. Но как только какой-то человек или группа интересов получают достаточно власти, чтобы делать всё, что им кажется хорошей идеей, то история говорит нам, что произойдёт что-нибудь похожее на Францию времён Революции или Советский Союз.

sepremento 26.04.20 в 08:13

Те планы, которые в милых теориях должны сделать всех людей счастливыми, не приводят к результатам, которые предсказывают разумные аргументы. А власть развращает и создает коррупцию.

sepremento 26.04.20 в 08:14

А потому вы вводите как можно меньше регулирования, потому что не можете доверять милым теориям и не можете доверять людям, которые будут их внедрять.

sepremento 26.04.20 в 08:15

Вы не грозите пальчиком людям за то, что они эгоистичны. Вы пытаетесь создать эффективную систему производства из эгоистичных участников через требование, чтобы транзакции были добровольными. А потому людям приходится играть в игры с положительной суммой, потому что только так они заставят другую сторону подписать контракт. Если удается ограничить насилие и обеспечить выполнение контрактов, то эгоизм каждого подпитывает глобальную систему производства.

sepremento 26.04.20 в 08:17

Разумеется, ничто не работает на практике столь же хорошо, как и в теории, и я не буду углубляться в ошибки рынка, трагедию общин и так далее. Главный аргумент за либертарианство не в том, что оно сработает в идеальном мире, а в том, что оно устойчиво к отказам. Или лучше сказать, оно более устойчиво к отказам, чем любой другой экономический принцип. (Люди, которые видят в Либертарианстве идеальное решение для идеальных людей поражают меня тем, что упускают суть "прагматического недоверия".)

sepremento 26.04.20 в 08:21

Наука впервые проявила себя как протест желанию доверять словам Аристотеля. Если бы люди внутри этой революции всего лишь сказали себе: "А давайте доверять себе, а не Аристотелю!", то ничего не случилось бы и всё прошло бы как Французская Революция.

sepremento 26.04.20 в 08:23

Но Научная Революция продержалась дольше, потому что --- подобно Американской Революции --- её архитекторы предложили очень странную философию: "А давайте никому не доверять! Даже себе!"

sepremento 26.04.20 в 08:24

Вначале пришла идея, что мы не можем просто выбросить "сидячее" мышление Аристотеля и заменить его другим "сидячим" мышлением. Нужно было говорить напрямую с Природой и всерьёз прислушиваться к её ответам. Это уже само по себе было гениальным ходом.

sepremento 27.04.20 в 07:49

Затем пришли сложности с внедрением решения. Люди упрямы и могут не захотеть принят вердикт эксперимента. Должны ли мы неодобрительно грозить им пальцем и приговаривать "Ай-яй-яй"?

sepremento 27.04.20 в 07:51

Нет. Мы предполагаем и принимаем, что каждый учёный по отдельности может быть исключительно привязан к своим теориям. И мы не предполагаем, что любого можно натренировать избегать этой тенденции и не пытаемся выбрать Высших Судей, которые будут по-настоящему непредвзяты.

sepremento 27.04.20 в 07:53

Вместо этого мы пытаемся укротить упрямое желание каждого учёного доказать свою личную теорию и говорим: "Сделай новое предсказание эксперимента и проведи этот эксперимент. Если ты прав и эксперимент будет воспроизведён, то ты победил." И до тех пор, пока учёные в это верят, у них есть мотив ставить эксперименты, которые могут фальсифицировать их собственные теории. Только приняв возможность поражения можно победить. И любое великое заявление потребует воспроизведения, а это даёт учёным мотив быть честными, а иначе они испытают боль унижения.

sepremento 27.04.20 в 07:56

Таким образом, упрямство отдельных учёных укрощено, дабы произвести постоянный поток знаний на групповом уровне. Так Система становится более надёжной, чем её части.

sepremento 27.04.20 в 07:57

Либертарианство втайне опирается на то, что большинство людей достаточно социальны, чтобы давать чаевые в ресторанах, в которые они никогда не вернутся. Экономика из абсолютно эгоистичных агентов просто схлопнется. Аналогично, Наука опирается на то, что учёные не будут совершать грехи столь вопиющие, что проблемы, к которым такие грехи приведут, невозможно будет рационально разрешить.

sepremento 27.04.20 в 08:00

Учёные могут продвигать свои теории в играх академической политики, могут лукавить со статистическими методами, чтобы получить возможность победить без шанса проиграть. А ещё может статься, что никто не будет воспроизводить эксперименты. Всё это снижает эффективность науки. Но наука остаётся отказоустойчивой с течением времени.

sepremento 27.04.20 в 08:04

И та часть, в которой успешные прогнозы принадлежат некой теории и её создателям, и их нельзя утащить в пользу теории, которая появилась позднее без новых предсказаний эксперимента --- это важная особенность такого общественного процесса.

sepremento 27.04.20 в 08:06

Результатом становится то, что Наука плохо ладит с теорией вероятности. Если сделать вероятностные вычисления верно, то получишь рациональный результат. Однако Наука не доверяет твоей рациональности и не опирается на способность применять теорию вероятности, как на арбитра истины. Наука хочет, чтобы ты поставил эксперимент.

sepremento 27.04.20 в 08:08

Отнестись к Науке, как к приближению некоторого идеала рациональности из теории вероятности... определённо кажется рационально. Кажется, будто существует исключительно разумный аргумент, что теорема Байеса лежит в основе той структуры, что заставляет Науку работать. Но подчинить Науку общей схеме Байесианства и позволить ему переписывать вердикты Науки, когда это кажется правильным --- это непростой шаг!

sepremento 27.04.20 в 08:11

Наука выстроена вокруг предположения, что ты слишком туп и склонен к самообману, чтобы просто использовать индукцию по Соломонову. В конце концов, если бы всё было так просто, то нам не потребовался бы общественный процесс науки... правда?

sepremento 27.04.20 в 08:11

Итак, собираетесь ли вы в конце концов верить в фей квантового "коллапса", что быстрее скорости света? Или вы умнее?

sepremento 27.04.20 в 08:13