Готовый перевод Rationality: From AI to Zombies, Book 5 / Рациональность: От ИИ до Зомби, Том 5: Dreams of AI Design

Мечты о проекте ИИ

После того, как проживёшь пару десятилетий внутри сознания, может показаться, будто что-то знаешь о его работе, не так ли? Так считают многие СИИ-энтузиасты (люди, которые считают, что у них достаточно знаний, чтобы запрограммировать сильный искусственный интеллект). К сожалению, это неверно.

Искусственный интеллект фундаментально связан со сведением ментального к не-ментальному.

Возможно потребуется поразмыслить на этим предложением какое-то время. Оно важно.

Жизнь внутри сознания человека не учит искусству редукционизма, потому что вся работа выполняется вне поля зрения, внутри непрозрачных чёрных ящиков мозга. Насколько далеко за пределами поля зрения, что не существует даже внутреннего ощущения, что чёрный ящик вообще есть --- не чувственного события, которое бы означало, что работу передали дальше по цепочке.

Осознавал ли Аристотель, когда он вёл разговоры о телосе, конечной причине событий, что он делегировал работу по предсказанию сложным механизмам планирования мозга, задавая вопросы: "Что стал бы делать этот объект, если бы он мог строить планы?". Сильно сомневаюсь. Аристотель считал, что мозг --- это орган, который остужает кровь. А он считал этот процесс важным, поскольку люди, благодаря своему увеличенному мозгу, были более спокойны и рассудительны.

Так вот же готовый проект ИИ! Просто нужно очень сильно охладить компьютер, он станет гораздо более спокойным и рассудительным и не бросится с головой во всякие глупости, как современные компьютеры. Это был пример фальшивого редукционизма. Я имею в виду мысль "люди более рассудительны, потому что их кровь холоднее". Потому что в этом случае остаётся чёрный ящик внутри слова "рассудительный". Невозможно предсказать, что делает рассудительный объект, используя сложную модель с подвижными внутренними частями из материальных, причинно-связанных элементов (в качестве канонического примера материального причинно-связанного элемента модели можно привести положительные и отрицательные напряжения транзистора). Возможно лишь вообразить себя рассудительным, чтобы приобрести представление о поступках рассудительного агента.

Иными словами, можно судить о "рассудительности" только с помощью эмпатии, используя свой собственный мозг в качестве чёрного ящика, на котором дёрнули рычаг рассудительности, чтобы предсказать выходной сигнал другого чёрного ящика.

Можно представить рассудительность другого агента, но это вновь будет актом эмпатии и он работает так, что это вы настраиваете свой мозг на работу в рассудительном режиме, а не моделируете другой мозг нейрон за нейроном. Да, это более эффективно, но такой подход не позволит выстроить "рассудительный" разум с нуля.

Можно сказать, что "холодная кровь вызывает рассудительность" и получить ложную причинно-следственную связь. Так вы нарисуете маленькую стрелочку из прямоугольника с подписью "холодная кровь" в прямоугольник с подписью "рассудительность", но структура прямоугольников вам неизвестна --- вы продолжаете делать предсказания на основе эмпатии.

Можно сказать "куча маленьких нейронов, которые сами по себе электрохимические и в них нет онтологически первичной рассудительности, соединяются в сложную сеть, которая эмержентно проявляет рассудительность". И это опять ложная редукция, потому что вы всё ещё не посмотрели внутрь чёрного ящика. Всё ещё невозможно сказать, что будет делать "рассудительная" штука, не используя эмпатию. Вы лишь взяли прямоугольник с подписью "куча нейронов" и нарисовали стрелочку с подписью "эмержентность" к чёрному ящику с воспоминаниями об ощущении рассудительности, которые подсказывают мозгу проявить эмпатию к ящику через рассуждения.

Так как выглядит настоящая редукция?

Как связь между чувством оправданности или обладания свидетельствами и книгой Э. Т. Джейнса "Теория вероятности: логика науки". Можно ходить кругами весь день и приговаривать, что природа свидетельства в том, что оно обосновывает некоторое высказывание, а это значит, что высказывание с большей вероятностью будет истинным, но всё это лишь пробуждает внутренние ощущения мозга об обоснованности, обладанию свидетельствами, похожести. Эта часть, где нужно ходить кругами, простая. Сложная часть там, где нужно перейти от этого к теореме Байеса.

А фундаментальная способность разума, которая позволяет кому-либо изучить предмет искусственного интеллекта --- это способность делать отличия. Чтобы можно было понять, что вы ещё не закончили, даже ещё не начали, когда произносите: "Свидетельство это когда наблюдение обосновывает убеждение." Однако атомы не являются носителями свидетельств, обоснований, значений, вероятностей, высказываний или истинности. Они всего лишь атомы. Только такие штуки как

P(H|E) = P(E|H) × P(H)
P(¬H|E) P(E|¬H) P(¬H)
можно считать значительным прогрессом. (И это только первый шаг редукции: что такое объекты E и H, если не таинственные чёрные ящики? Откуда происходят ваши гипотезы? Из вашей творческой жилки? А что такое гипотеза, когда ни один атом гипотезой не является?)

Другой прекрасный пример настоящей редукции можно найти в книге Джуды Перл "Вероятностные суждения в интеллектуальных системах: сети правдоподобного вывода". Можно бесконечно ходить кругами и приговаривать, что причина это нечто, что заставляет происходить нечто иное, но пока вы не поймёте природу причинно-следственной независимости, вы будете беспомощны в своих попытках заставить ИИ рассуждать о причинах и следствиях. Потому что вы не будете понимать, что происходит, когда мозг таинственным образом решает, что если сработала домашняя сигнализация, но вы знаете, что недалеко произошёл небольшой подземный толчок, то надо отбросить исходное заключение, что ваш дом грабят.

Если вы хотите, чтобы ИИ играл в шахматы, то вы можете бесконечно ходить кругами и вести разговоры о том, как вам хочется, чтобы ИИ совершал хорошие ходы, какие ходы будут выигрышными и какие ходы будут частью разумных стратегий победы над оппонентом и так далее. И да, у вас может возникнуть некая идея ходов, которые ИИ должен делать, но это всё пустяки, пока вы не придумаете концепцию поискового дерева минимакса.

Но пока вы не знаете о поисковых деревьях, пока вам неизвестна условная независимость, пока вы не знаете теорему Байеса, вам может казаться, что вы обладаете идеальным пониманием, откуда берутся хорошие ходы, немонотонное суждение и оценка свидетельств. Может казаться, например, что они связаны с охлаждением крови.

И действительно, мне известны многие люди, которые считают интеллект продуктом здравого смысла, или массивного параллелизма, или творческого разрушения, или интуиции вместо рационального суждения, да и чего угодно ещё. Но это всё фантазии, которые не дают способа, кроме как показать на человека, понять, что такое интеллект или что интеллект сделает дальше. И когда строят чудесный ИИ, то строят систему отсоединённых рычагов, "знание, которое состоит из подписанных токенов LISP или, возможно, строят "огромную нейронную сеть, совсем как мозг человека". И потом стоят в шоке --- в шоке! --- что ничего не получается.

Проекты ИИ из частей человека --- это фантазии. Они могут существовать в воображении, но плохо переносятся на транзисторы. Это особенно касается "проектов ИИ", которые выглядят как прямоугольники со стрелочками между ними, на которых написаны осмысленные ярлычки. (За поистине эпичным примером такого, см. диаграмму ментифекса)

Позже я ещё буду обсуждать эту тему, но сейчас я опишу вам один из главных принципов: если вы встретите кого-либо, кто скажет, что их ИИ будет делать XYZ совсем как человек, не давайте ему венчурный капитал. Вместо этого скажите следующее: "Сожалею, я никогда не видел мозг человека или какой-либо иной разум, у меня вообще нет оснований полагать, что такая вещь существует. А теперь, пожалуйста, объясни мне, что делает твой ИИ и почему ты веришь, что он будет это делать и не указывай на людей в качестве примера." Самолёты летали бы всё равно, даже если бы птиц не было. В воздухе их удерживали не аналогии.

Теперь, надеюсь, понятно, если хочешь научить кого-либо делать фундаментальную работу в области сильного ИИ --- держа в уме, что это очень сложное искусство, которому не учат подавляющее большинство студентов, изучающих только уже существующие редукции вроде поисковых деревьев --- то нужно вначале достаточно подробно говорить о таких вещах, как тонкое искусство редукционизма, о том, как играть в рационалистическое табу, чтобы исключить проблемные слова, а затем заменить их референтами, а ещё об антропоморфизме и, разумеется, о ранней остановке и таинственных ответах на таинственные вопросы.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/80377/488555

Переводчики: sepremento