Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (24) (lesswrong.ru) Самоуверенность Эйнштейна

В 1919-м году сэр Артур Эддингтон возглавил экспедиции к Бразилии и острову Принсипи, намереваясь произвести наблюдения солнечных затмений и таким образом проверить экспериментальное предсказание новейшей эйнштейновской общей теории относительности. Журналист спросил у Эйнштейна, что тот будет делать, если наблюдения Эддингтона не подтвердят теорию. Энштейн дал знаменитый ответ: «Мне будет жаль дорогого лорда. Теория правильна.».

minoru 20.11.15 в 21:28

Это может показаться необдуманным заявлением, попирающим взгляды Традиционного Рационализма, где эксперимент превыше всего. Эйнштейн кажется настолько высокомерным, что отказывается склонить голову пред ответом Природы, как должны это делать все учёные. Кто знает, правильна ли теория, если тесты ещё не проведены?

minoru 20.11.15 в 21:33

Конечно же, Эйнштейн оказался прав. Я пытаюсь не критиковать людей, оказавшихся правыми. Если они и вправду заслуживают критики, то мне не придётся долго ждать случая, когда они окажутся неправы.

minoru 20.11.15 в 21:35

И Эйнштейн может оказаться не таким уж безрассудным…

minoru 20.11.15 в 21:35

Чтобы назначить больше 50% вероятности правильному кандидату из набора в 100 000 000 возможных гипотез, нужно по меньшей мере 27 бит доказательств (или около того). Нельзя ожидать, что правильного кандидата можно будет найти без помощи настолько сильных тестов, так как более слабые выдадут более одного кандидата, проходящего все тесты. Если попробовать применить тест, шанс получения ложного позитивного ответа от которого случается один раз из миллиона (≈20 бит), получим сотню кандидатов. Для того, чтобы попросту *найти* правильный ответ в огромном пространстве вариантов, нужно большое количество доказательств.

minoru 20.11.15 в 21:40

Традиционный Рационализм упирает на обоснование: «Чтобы убедить меня в X, нужно предоставить Y доказательств». Я и сам часто пользуюсь такими формулировками, когда говорю что-то вроде «для обоснования веры в это утверждение, с вероятностью более 99%, нужно 34 бита доказательств». Или «чтобы приписать этой гипотезе вероятность выше 50%, нужно

minoru 20.11.15 в 21:44

27 бит доказательств». Традиционная формулировка подразумевает, что всё начинается с некого чувства, или какой-то скрываемой нити рассуждений, приводящей к предлагаемой гипотезе, и уже потом происходит сбор «доказательств» для её подтверждения — чтобы убедить научное сообщество, или же обосновать свою веру в то самое чувство.

minoru 20.11.15 в 21:46

Но с точки зрения теоремы Байеса, нужно собрать объём доказательств, примерно равный сложности гипотезы, чтобы хотя бы найти эту гипотезу в пространстве теорий. Это не вопрос обоснования чего-либо перед кем-либо. Если есть сто миллионов альтернатив, нужно по меньшей мере 27 бит доказательств лишь для того, чтобы сфокусировать внимание на одном конкретном ответе.

minoru 20.11.15 в 21:48

Это остаётся справедливым, даже если вы называете свою догадку «чувством» или «интуицией». Эти вещи являются настоящими процессами в настоящем мозгу. Если у мозга нет по крайней мере десяти бит по-настоящему связанных с реальностью, корректных доказательств, то он не сможет выделить правильную десятибитную гипотезу, чтобы представить её вашему вниманию ­— сознательно ли, подсознательно ли, или же как-то ещё. Подсознательные процессы не могут найти одну цель из миллиона, руководствуясь всего 19-ю битами связанности, точно так же, как не могут этого процессы сознательные. Интуиция может быть мистической для того, кто ей владеет, но она не может нарушить законов физики.

minoru 20.11.15 в 21:53

Совершенно понятно, к чему это всё ведет: в момент первой формулировки гипотезы — в самую первую секунду, когда уравнения появились у него в голове ­— Эйнштейн уже должен был располагать достаточным количеством полученных через наблюдения доказательств, чтобы выделить сложные уравнения общей теории относительности. Иначе он не смог бы получить их вовсе.

minoru 20.11.15 в 21:55

Насколько вероятной является ситуация, когда Эйнштейну хватило доказательств на то, чтобы выделить ОТО для рассмотрения, но присвоить ей лишь 55%-ю вероятность? Предположим, что ОТО является гипотезой сложностью 29.3 бита. Насколько вероятно, что Эйнштейн в процессе своих физических исследований наткнётся ровно на 29.5 бит доказательств?

minoru 20.11.15 в 21:58

Вряд ли! Если у Эйнштейна было достаточно полученных с помощью наблюдений доказательств, дабы выделить правильные уравнения ОТО, тогда ему наверняка хватило бы доказательств и на то, что ОТО является правильной.

minoru 20.11.15 в 22:03

Более того, т.к. человеческий мозг не является идеально эффективным обработчиком информации, у Эйнштейна наверняка было гораздо больше доказательств, чем, в принципе, потребовалось бы идеальному байесовскому агенту для того, чтобы быть очень уверенным в ОТО.

minoru 20.11.15 в 22:05

«Тогда мне будет жаль дорогого лорда; теория правильна». Звучит уже не так отвратительно, если посмотреть с такой точки зрения. И помните, что ОТО *была* правильной, из всего огромного пространства возможностей.

minoru 20.11.15 в 22:06