Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Belief in Intelligence

Я не знаю, какие ходы Каспаров сделает в шахматах. Каково тогда эмпирическое содержание моего убеждения, что «Каспаров является очень разумным игроком в шахматы?». Какой опыт в реальном мире мне следует ожидать, согласно моему убеждению? Не является ли это хитро замаскированной формой полного невежества?

sepremento 07.09.19 в 11:16

Чтобы подчеркнуть дилемму, предположим, что Каспаров играет против всего лишь шахматного гроссмейстера мистера Г, который не стремится к званию чемпиона мира. Мои собственные способности слишком малы для различия между этими уровнями шахматного мастерства. Когда я пытаюсь угадать ход Каспарова или ход мистера Г, всё, что мне доступно это сказать «наилучший шахматный ход», используя моё скудное знание шахмат. Тогда я сделаю абсолютно одинаковые предсказания ходов Каспарова или мистера Г для каждой отдельно взятой шахматной позиции. Так каково же эмпирическое содержание моего убеждения «Каспаров является лучшим игроком в шахматы, чем мистер Г»?

sepremento 07.09.19 в 11:16

Эмпирическое содержание моего убеждения это проверяемое, фальсифицируемое предсказание, что финальная шахматная позиция будет принадлежать классу позиций, в которых Каспаров побеждает, а не ничьих или побед мистера Г. (Учитывая ситуации, когда игрок сдается, как правомочный ход, ведущий к шахматной позиции, определяемые как поражение.) Уровень убежденности, что Каспаров является «лучшим игроком» отображается в количестве вероятностной массы, сконцентрированной в классе исходов «Каспаров побеждает» по сравнению с классами исходов «игра сведена вничью» или «мистер Г побеждает». Эти классы исключительно размыты в той мере, что они соотносятся к огромными пространствами возможных шахматных позиций, но убеждение «Каспаров побеждает» является более конкретным, чем максимальная энтропия, потому что оно может быть точно сфальсифицировано огромным набором шахматных позиций.

sepremento 07.09.19 в 11:17

Исход игры Каспарова предсказуем, потому что я знаю и понимаю цели Каспарова. Внутри ограничений шахматной доски я знаю мотивацию Каспарова — я знаю его критерий успешности, его функцию полезности, его цель как оптимизационного процесса. Я знаю, куда Каспаров в конечном итоге пытается направить будущее и я ожидаю, что он достаточно силен, чтобы туда попасть, при этом я не очень представляю, как именно Каспаров собирается сделать это.

sepremento 07.09.19 в 11:17

Вообразите, что я посещаю отдаленный город и мой местный знакомый вызывается отвезти меня в аэропорт. Я не знаю район. Каждый раз, когда мой друг приближается к перекрестку, я не знаю, повернёт ли он налево, повернёт ли направо или продолжит движение вперед. Я не могу предсказать ход своего знакомого даже по мере приближения к каждому конкретному перекрестку, не говоря уже о предсказании всей последовательности движений заранее.

sepremento 07.09.19 в 11:17

И тем не менее, я могу предсказать результат непредсказуемых действий моего друга: мы прибудем в аэропорт. Даже если бы дом моего друга находился в другом месте и ему пришлось бы совершить абсолютно иную последовательность поворотов, я бы столь же уверенно предсказал наше прибытие в аэропорт. Я могу это предсказать задолго до события --- даже до того, как сяду в автомобиль. Мой рейс вскоре отправляется, нельзя тратить время. Я бы не сел в машину, если бы не мог уверенно предсказать, что машина поедет в аэропорт по непредсказуемому маршруту.

sepremento 07.09.19 в 11:17

Разве это не поразительная ситуация с научной точки зрения? Я могу предсказать исход процесса без умения предсказать промежуточные шаги процесса.

sepremento 07.09.19 в 11:17

Как это вообще возможно? Обыкновенно люди предсказывают, воображая настоящее, а потом проматывая визуализацию вперед во времени. Если вы хотите точную модель Солнечной Системы, которая учитывает планетарные колебания, нужно начать с модели всех основных объектов и прогнать модель вперед во времени, шаг за шагом.

sepremento 07.09.19 в 11:18

Иногда более простые проблемы имеют ограниченное решение, когда расчёт будущего в момент времени Т занимает одинаковое количество работы, независимо от Т. Монета покоится на столе и каждую минуту переворачивается. Монета лежит орлом вверх. Какая сторона будет сверху через сто минут? Очевидно, что вы не отвечаете на этот вопрос, представляя сто шагов. Вы используете ограниченное решение, которое работало для предсказания исхода и также сработает для предсказания любого из промежуточных шагов.

sepremento 07.09.19 в 11:18

Но когда друг везёт меня в аэропорт, я могу успешно предсказать исход, используя странную модель, которая не будет работать для предсказания любого из промежуточных шагов. Моя модель даже не требует ввода исходных условий — мне даже не нужно знать, откуда мы выезжаем!

sepremento 07.09.19 в 11:18

При этом мне нужны некоторые знания о друге. Мне надо знать, что мой друг хочет, чтобы я успел на рейс. Я должен верить, что мой друг достаточно хорош в планировании, чтобы успешно довезти меня до аэропорта (если он хочет). Это свойства исходного состояния моего друга — свойства, которые позволяют мне предсказать конечный пункт, но не каждый отдельный поворот.

sepremento 07.09.19 в 11:18

Также надо верить, что мой друг знает достаточно о городе, чтобы вести машину. Можно отнестись к этому как к связи между моим другом и городом; а следовательно, как к свойству, относящемуся к обоим элементам. Это исключительно абстрактное свойство, которое не требует каких-то конкретных знаний ни о городе, ни о познаниях моего друга об этом городе.

sepremento 07.09.19 в 11:18

Это один из способов взглянуть на предмет исследования, которому я посвятил свою жизнь — эти примечательные ситуации, когда мы оказывается в странных эпистемических положениях. Мою работу, в некотором роде, можно рассматривать как раскрытие истинной формы этого странного абстрактного знания, которым мы можем обладать; через которое, не зная действий, мы можем обоснованно знать последствия.

sepremento 07.09.19 в 11:18

«Интеллект» это слишком узкий термин для описания этих примечательных ситуаций во всей их полноте. Я бы предпочел «оптимизационный процесс». Похожая ситуация сопровождает исследования биологического естественного отбора, например; мы не можем предсказать точную форму следующего наблюдаемого организма.

sepremento 07.09.19 в 11:19

Моей специальностью является вид оптимизационного процесса, называемый «интеллектом»; даже ещё уже, вид интеллекта, называемый «дружественный искусственный интеллект» - о котором, я надеюсь, я смогу получить особенно точное абстрактное знание.

sepremento 07.09.19 в 11:19