Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (24) (lesswrong.ru) Самоуверенность Эйнштейна

В 1919-м году сэр Артур Эддингтон возглавил экспедиции к Бразилии и острову Принсипи, намереваясь произвести наблюдения солнечных затмений и таким образом проверить экспериментальное предсказание новейшей эйнштейновской общей теории относительности. Журналист спросил у Эйнштейна, что тот будет делать, если наблюдения Эддингтона не подтвердят теорию. Энштейн дал знаменитый ответ: «Мне будет жаль дорогого лорда. Теория правильна.».

Это может показаться необдуманным заявлением, попирающим взгляды Традиционного Рационализма, где эксперимент превыше всего. Эйнштейн кажется настолько высокомерным, что отказывается склонить голову пред ответом Природы, как должны это делать все учёные. Кто знает, правильна ли теория, если тесты ещё не проведены?

Конечно же, Эйнштейн оказался прав. Я пытаюсь не критиковать людей, оказавшихся правыми. Если они и вправду заслуживают критики, то мне не придётся долго ждать случая, когда они окажутся неправы.

И Эйнштейн может оказаться не таким уж безрассудным…

Чтобы назначить больше 50% вероятности правильному кандидату из набора в 100 000 000 возможных гипотез, нужно по меньшей мере 27 бит доказательств (или около того). Нельзя ожидать, что правильного кандидата можно будет найти без помощи настолько сильных тестов, так как более слабые выдадут более одного кандидата, проходящего все тесты. Если попробовать применить тест, шанс получения ложного позитивного ответа от которого случается один раз из миллиона (≈20 бит), получим сотню кандидатов. Для того, чтобы попросту *найти* правильный ответ в огромном пространстве вариантов, нужно большое количество доказательств.

Традиционный Рационализм упирает на обоснование: «Чтобы убедить меня в X, нужно предоставить Y доказательств». Я и сам часто пользуюсь такими формулировками, когда говорю что-то вроде «для обоснования веры в это утверждение, с вероятностью более 99%, нужно 34 бита доказательств». Или «чтобы приписать этой гипотезе вероятность выше 50%, нужно

27 бит доказательств». Традиционная формулировка подразумевает, что всё начинается с некого чувства, или какой-то скрываемой нити рассуждений, приводящей к предлагаемой гипотезе, и уже потом происходит сбор «доказательств» для её подтверждения — чтобы убедить научное сообщество, или же обосновать свою веру в то самое чувство.

Но с точки зрения теоремы Байеса, нужно собрать объём доказательств, примерно равный сложности гипотезы, чтобы хотя бы найти эту гипотезу в пространстве теорий. Это не вопрос обоснования чего-либо перед кем-либо. Если есть сто миллионов альтернатив, нужно по меньшей мере 27 бит доказательств лишь для того, чтобы сфокусировать внимание на одном конкретном ответе.

Это остаётся справедливым, даже если вы называете свою догадку «чувством» или «интуицией». Эти вещи являются настоящими процессами в настоящем мозгу. Если у мозга нет по крайней мере десяти бит по-настоящему связанных с реальностью, корректных доказательств, то он не сможет выделить правильную десятибитную гипотезу, чтобы представить её вашему вниманию ­— сознательно ли, подсознательно ли, или же как-то ещё. Подсознательные процессы не могут найти одну цель из миллиона, руководствуясь всего 19-ю битами связанности, точно так же, как не могут этого процессы сознательные. Интуиция может быть мистической для того, кто ей владеет, но она не может нарушить законов физики.

Совершенно понятно, к чему это всё ведет: в момент первой формулировки гипотезы — в самую первую секунду, когда уравнения появились у него в голове ­— Эйнштейн уже должен был располагать достаточным количеством полученных через наблюдения доказательств, чтобы выделить сложные уравнения общей теории относительности. Иначе он не смог бы получить их вовсе.

Насколько вероятной является ситуация, когда Эйнштейну хватило доказательств на то, чтобы выделить ОТО для рассмотрения, но присвоить ей лишь 55%-ю вероятность? Предположим, что ОТО является гипотезой сложностью 29.3 бита. Насколько вероятно, что Эйнштейн в процессе своих физических исследований наткнётся ровно на 29.5 бит доказательств?

Вряд ли! Если у Эйнштейна было достаточно полученных с помощью наблюдений доказательств, дабы выделить правильные уравнения ОТО, тогда ему наверняка хватило бы доказательств и на то, что ОТО является правильной.

Более того, т.к. человеческий мозг не является идеально эффективным обработчиком информации, у Эйнштейна наверняка было гораздо больше доказательств, чем, в принципе, потребовалось бы идеальному байесовскому агенту для того, чтобы быть очень уверенным в ОТО.

«Тогда мне будет жаль дорогого лорда; теория правильна». Звучит уже не так отвратительно, если посмотреть с такой точки зрения. И помните, что ОТО *была* правильной, из всего огромного пространства возможностей.

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/287742

Переводчики: minoru