Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Faster Than Science

Иногда я говорю, что научный метод заключается в том, чтобы собрать настолько большую гору свидетельств, чтобы даже учёный не смог её проигнорировать. И в этом отличительная черта учёного. (Обычный человек всё равно её проигнорирует.)

sepremento 15.05.20 в 06:51

Макс Планк был ещё менее оптимистичен:

sepremento 15.05.20 в 06:52

Новая научная истина торжествует не потому, что её оппонентов убедили и заставили увидеть свет, но потому, что её оппоненты в конечном счёте умирают, а новое поколение вырастает в её присутствии.

sepremento 15.05.20 в 06:54

Меня очень веселит эта концепция, поскольку в ней подразумевается, что вся способность науки отличать истину от лжи в конечном итоге зиждется на хорошем вкусе студентов ВУЗов.

sepremento 15.05.20 в 06:56

Тот факт, что степень принятия многомировой интерпретации в физике постепенно увеличивается показывает, что существуют физики, которые примут новую идею только при наличии некоторой комбинации из эпистемического обоснования и достаточно большой академической группы поддержки, в чьей компании можно быть спокойным. По мере того, как всё больше физиков принимают многомировую интерпретацию, группа поддержки растёт, а следовательно, всё больше людей преодолевают свой порог конверсии. Но эпистемическое обоснование остаётся по сути одним и тем же.

sepremento 15.05.20 в 07:00

Но в конце концов Наука приходит к успеху и этого механизма достаточно, чтобы маховик Науки провернулся и создал технологическую цивилизацию.

sepremento 15.05.20 в 07:01

Учёными могут руководить беспочвенные предрассудки, неверная интуиция или просто стадное чувство --- всё многообразие людских недостатков. Всякий раз, когда учёный изменяет своё убеждение по эпистемически некорректным причинам, требуется больше свидетельств, чтобы уравновесить возникший шум.

sepremento 16.05.20 в 07:36

У "коллапса волновой функции" нет экспериментального подтверждения, но само понятие соответствует нашему интуитивному представлению (неверному), что мир --- единственный. И в таком случае требуется дополнительный довод, например, что коллапс нарушает специальную теорию относительности, чтобы начать медленную дезинтеграцию идеи, которая с самого начала не должна была получить сколь угодно весомую вероятность.

sepremento 16.05.20 в 07:39

С точки зрения Байесианства, академическая наука в целом это крайне неэффективный обработчик свидетельств. Всякий раз, как необоснованный довод смещает убеждение, требуется ещё один обоснованный довод, чтобы сместить его обратно. Чтобы преодолеть когнитивный шум, общественному процессу науки приходится опираться на дополнительные свидетельства.

sepremento 16.05.20 в 07:41

По-хорошему следует сформулировать так: ученые занимают недостаточно крайние, с теоретической точки зрения, позиции в сравнении с идеальными позициями, которые они заняли бы, будь они Байесианскими ИИ и могли бы себе доверять мыслить отчётливо.

sepremento 16.05.20 в 07:46

Но не стоит быть слишком доброжелательным. Тот шум, о котором мы говорим --- не просто невинные ошибки. Во многих областях, споры продолжаются в течение десятилетий после того, как они должны были быть разрешены. И не потому, что учёные с разных сторон отказались доверять себе и согласились искать дополнительные свидетельства. А потому, что одна из сторон, находясь на устоявшихся позициях академической власти, продолжает выдвигать всё более и более нелепые возражения и требовать всё больше свидетельств, хотя уже давно понятно, о чём именно эти будущие свидетельства будут говорить. (Я здесь говорю о дебатах, которые окружают эволюционную психологию, а не многомировую интерпретацию.)

sepremento 16.05.20 в 07:52

Может ли отдельный человек или группа людей обрабатывать свидетельства более эффективно --- быстрее приходить к правильным выводам --- чем вся академическая наука человечества в целом?

sepremento 17.05.20 в 07:05

"Идеи подвергаются испытанию в эксперименте. В этом суть науки." И это должно быть правдой, ведь если нельзя доверять Зомби Фейнману, то кому можно?

sepremento 17.05.20 в 07:06

Но при этом, откуда берутся идеи?

sepremento 17.05.20 в 07:06

Может возникнуть искушение ответить: "Идеи берутся у учёных. Ещё вопросы есть?". В Науке вам не положено беспокоиться, откуда взялись гипотезы, только о том, проходят ли они испытание экспериментом.

sepremento 17.05.20 в 07:07

Ладно, но если убрать все новые идеи, то научный процесс остановится, поскольку не будет альтернативных гипотез для испытаний. А потому производство новых идей --- это неотъемлемая часть этого процесса.

sepremento 17.05.20 в 07:09

Надеваем опять наши Байесианский очки. Как я описывал в "Самоуверенности Эйнштейна", существуют небинарные запросы --- такие, где ответом будет не "Да" или "Нет", но некая структура из, например, пространства уравнений. В таком случае требуется гораздо больше Байесианских свидетельств, чтобы вынести гипотезу в зону внимания, чем чтобы подтвердить её.

sepremento 17.05.20 в 07:12

Если вы работаете с пространством уравнений, которые можно описать 32 битами или меньше, то в нём около 4 миллиардов уравнений. Требуется гораздо больше Байесианских свидетельств, чтобы вынести одну из таких гипотез до уровня вероятности в 10%, чем чтобы дальше довести её с 10% до 90% вероятности.

sepremento 17.05.20 в 07:15

Когда пространство идей велико, придумать достойную проверки идею требует выполнения гораздо большей работы (в Байесово-термодинамическом смысле "работы"), чем чтобы всего лишь получить результат эксперимента с p < 0,0001 о превосходстве новой гипотезы над старой.

sepremento 17.05.20 в 07:17

Если это не кажется самоочевидным, сделайте паузу и пересмотрите эссе "Самоуверенность Эйнштейна".

sepremento 17.05.20 в 07:18

Процесс науки всегда опирался на учёных, которые придумывали гипотезы для проверки, но при помощи какой-то процедуры, которую Наука не уточняла. Предположим, вы бы предложили некий совершенно безумный способ производства гипотез --- например, доску для спиритизма с цифрами числа пи, которой бы управлял робот --- и предложения такого метода проверяли бы в опыте. Чистый идеал Науки даже не поморщился бы. Чистый идеал Байеса взорвался бы и погиб.

sepremento 17.05.20 в 07:21

(По сравнению с Наукой, Байес фальсифицируется бо́льшим числом возможных исходов.)

sepremento 17.05.20 в 07:23

Это не означает, что Науке неважен процесс, в котором определяют, какие гипотезы тестировать. Это означает, что Наука такой процесс не уточняет.

sepremento 17.05.20 в 07:24

На практике робот с доской для спиритических сеансов не сработает. На практике бывают научные запросы, у которых пространство возможных ответов настолько велико, что случайный выбор модели потребует зиллионы лет, чтобы найти модель с хорошими предсказаниями --- как и попытка заставить обезьян напечатать Шекспира.

sepremento 17.05.20 в 07:27

На переднем крае науки --- на той границе между невежеством и знанием, где наука идёт в наступление --- весь процесс основан на способности некоторых учёных (или рабочих групп) увидеть что-то, что ещё не подтверждено Наукой. Вот как загодя узнают, какие гипотезы тестировать.

sepremento 17.05.20 в 07:29

Если снять Байесианские очки, то можно сказать: "Ну знать загодя необязательно, достаточно догадаться." Но если надеть Байесианские очки обратно, понимаешь, что "угадать" с вероятностью 10% и "угадать" с вероятностью 80% требует почти одинаковое количество закулисной эпистемической работы, по крайней мере для больших пространств ответов.

sepremento 18.05.20 в 06:35

Учёный может не знать, что он проделал всю эту эпистемическую работу перед экспериментом, однако он должен был её сделать и сделать успешно! В противном случае он не смог бы даже помыслить о правильной гипотезе. По крайней мере в большом пространстве ответов.

sepremento 18.05.20 в 06:37

Итак, учёный делает новое предсказание, проводит эксперимент, публикует результат и вот, теперь уже Наука его знает. Теперь это часть общественно-доступного знания человечества и каждый может его проверить самостоятельно.

sepremento 18.05.20 в 06:38

Где-то в промежутке был интервал, где учёный рационально знал кое-что, чего общественный процесс науки ещё не подтвердил. И это нетривиальный интервал, пусть он может быть коротким --- это то самое место, где проходит движущийся край передовой науки.

sepremento 18.05.20 в 06:40

Всё это больше соответствует нешаблонной науке, а не повседневной научной деятельности, поскольку речь идёт о концепции больших пространств ответов, где нельзя выбрать ответ "Да/Нет" или из небольшого количества очевидных альтернатив. Гораздо проще научить людей проверять свои идеи, чем придумывать хорошие идеи для проверки.

sepremento 18.05.20 в 06:43