Готовый перевод Rationality: From AI to Zombies, Book 5 / Рациональность: От ИИ до Зомби, Том 5: V. Value Theory. 267. Created Already In Motion

Льюис Кэрролл, который, ко всему прочему, был математиком, однажды написал короткий диалог "Что черепаха сказала Ахиллесу". Если вы не читали этот древний комикс, подумайте о том, чтобы сделать это.

Черепаха предлагает Ахиллесу этап в рассуждении, почерпнутого из "Начал" Евклида.

(А) Два объекта, равные одному и тому же, равны между собой.

(Б) Две стороны данного треугольника равны одному и тому же.

(Я) Две стороны этого треугольника равны между собой.

Черепаха: "Я предполагаю, если некоторый читатель не принял А и Б за истину, он всё ещё может признать всю последовательность как обоснованную?"

Ахиллес: "Без сомнений такой читатель может существовать. Он может сказать 'Я признаю за истину гипотетическое высказывание, что если А и Б истинны, то Я должно быть истинно, однако я не признаю, что А и Б истинны'. Такому читателю будет лучше бросить Евклида и обратиться к футболу."

Черепаха: "А не может ли быть такого читателя, который скажет 'Я принимаю, что А и Б истинны, но не принимаю гипотетическое высказывание?'"

Ахиллес неразумно уступает в этом и просит Черепаху принять следующее высказывание:

(В) Если А и Б истинны, то Я тоже истинно.

"Но, --- вопрошает Черепаха, --- что если принять А, Б и В, но не принять Я?"

"Тогда, --- говорит Ахиллес, --- нужно попросить черепаху принять следующее гипотетическое высказывание:

(Г) Если А, Б и В истинны, то Я должно быть истинно."

Дуглас Хофштадтер позже перефразировал этот спор:

Ахиллес: "Если дано [(А и Б) → Я] и дано (А и Б), то, разумеется, следствием будет Я.

Черепаха: "Ой! Ты имеешь в виду

(А и В) и [(A и Б) → Я] → Я, не так ли?"

Как говорит Хофштадтер: "Что бы Ахиллес не воспринял как правило в рассуждении, Черепаха мгновенно сводит к простой строке этой системы. Если использовать только буквы А, Б и Я, то вы получите рекурсивную последовательность из всё более и более длинных строк."

Я называю такой анти-паттерн "рекурсивное перекладывание ответственности" и хоть противоядие иногда бывает сложно отыскать, обычно оно принимает форму, "прими ответственность прямо сейчас".

Разуму Черепахи необходим механизм, посредством которого можно добавлять Y во множество убеждений, в котором уже есть X и (X → Y). Если такого механизма нет --- у камня, например, нет --- тогда можно добавлять X, и (X → Y), ((X и (X → Y)) → Y) до бесконечности, и так и не добраться до Y.

Мне однажды в голову пришла мысль, которой можно описать это требование, что разум должен быть создан сразу в состоянии движения. Нельзя придумать столь неотразимый аргумент, что привнесёт динамику в статический предмет. Невозможно создать столь убедительную программу, которую получится запустить на камне.

И даже если существует разум, который способен на modus ponens, то ему бесполезно иметь такие убеждения, как...

(А) Если младенец находится на рельсах, то убрать его с рельсов --- фузл.

(Б) Младенец находится на рельсах.

... пока в разуме не реализовано:

Динамика: если множество убеждений содержит "X это фузл", то отправить X в систему действий.

Под "динамикой" я имею в виду свойство физически реализованного развития когнитивной системы с течением времени. "Динамика" это нечто, что происходит внутри когнитивной системы, а не данные, которые хранятся в памяти и которыми она манипулирует. Динамика это сами манипуляции. Невозможно записать динамику на бумаге, потому что бумага останется просто лежать. Так что текст, который написан выше со словом "динамика" --- не динамика. Если бы я хотел, чтобы текст был динамикой, а не просто сообщал о "динамике", то мне нужно было бы написать приложение на Java.

Нет нужды говорить, что убеждение...

(В) Если массив убеждений содержит "X это фузл", то "отправить X в систему действий" это фузл.

не принесёт пользы, если у разума нет механизма преобразования гипотетических действий с ярлыком "фузл" в реальную двигательную активность.

Посредством точных аргументов о природе когнитивных систем, возможно, получится доказать...

(Г) Разум с динамикой, которая посылает планы с пометкой "фузл" в систему действий является более фузл, чем разум, который так не делает.

... но это тоже бесполезно, если у слушающего разума раньше не было динамики с заменой своего текущего исходного кода альтернативным исходным кодом, который более фузл.

Вот поэтому нельзя убедить камень в фузлости.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/80377/489149

Переводчики: sepremento