Rationality: From AI to Zombies, Book 5 / Рациональность: От ИИ до Зомби, Том 5: V. Value Theory. 267. Created Already In Motion

Льюис Кэрролл, который, ко всему прочему, был математиком, однажды написал короткий диалог "Что черепаха сказала Ахиллесу". Если вы не читали этот древний комикс, подумайте о том, чтобы сделать это.

sepremento 20.10.20 в 04:28

Черепаха предлагает Ахиллесу этап в рассуждении, почерпнутого из "Начал" Евклида.

sepremento 20.10.20 в 04:33

(А) Два объекта, равные одному и тому же, равны между собой.

sepremento 20.10.20 в 04:33

(Б) Две стороны данного треугольника равны одному и тому же.

sepremento 20.10.20 в 04:34

(Я) Две стороны этого треугольника равны между собой.

sepremento 20.10.20 в 04:34

Черепаха: "Я предполагаю, если некоторый читатель не принял А и Б за истину, он всё ещё может признать всю последовательность как обоснованную?"

sepremento 20.10.20 в 04:36

Ахиллес: "Без сомнений такой читатель может существовать. Он может сказать 'Я признаю за истину гипотетическое высказывание, что если А и Б истинны, то Я должно быть истинно, однако я не признаю, что А и Б истинны'. Такому читателю будет лучше бросить Евклида и обратиться к футболу."

sepremento 20.10.20 в 04:36

Черепаха: "А не может ли быть такого читателя, который скажет 'Я принимаю, что А и Б истинны, но не принимаю гипотетическое высказывание?'"

sepremento 20.10.20 в 04:39

Ахиллес неразумно уступает в этом и просит Черепаху принять следующее высказывание:

sepremento 20.10.20 в 04:40

(В) Если А и Б истинны, то Я тоже истинно.

sepremento 20.10.20 в 04:40

"Но, --- вопрошает Черепаха, --- что если принять А, Б и В, но не принять Я?"

sepremento 20.10.20 в 04:41

"Тогда, --- говорит Ахиллес, --- нужно попросить черепаху принять следующее гипотетическое высказывание:

sepremento 20.10.20 в 04:42

(Г) Если А, Б и В истинны, то Я должно быть истинно."

sepremento 20.10.20 в 04:42

Дуглас Хофштадтер позже перефразировал этот спор:

sepremento 20.10.20 в 04:43

Ахиллес: "Если дано [(А и Б) → Я] и дано (А и Б), то, разумеется, следствием будет Я.

sepremento 20.10.20 в 04:54

Черепаха: "Ой! Ты имеешь в виду

sepremento 20.10.20 в 04:54

(А и В) и [(A и Б) → Я] → Я, не так ли?"

sepremento 20.10.20 в 04:55

Как говорит Хофштадтер: "Что бы Ахиллес не воспринял как правило в рассуждении, Черепаха мгновенно сводит к простой строке этой системы. Если использовать только буквы А, Б и Я, то вы получите рекурсивную последовательность из всё более и более длинных строк."

sepremento 20.10.20 в 04:56

Я называю такой анти-паттерн "рекурсивное перекладывание ответственности" и хоть противоядие иногда бывает сложно отыскать, обычно оно принимает форму, "прими ответственность прямо сейчас".

sepremento 20.10.20 в 05:00

Разуму Черепахи необходим механизм, посредством которого можно добавлять Y во множество убеждений, в котором уже есть X и (X → Y). Если такого механизма нет --- у камня, например, нет --- тогда можно добавлять X, и (X → Y), ((X и (X → Y)) → Y) до бесконечности, и так и не добраться до Y.

sepremento 20.10.20 в 05:02

Мне однажды в голову пришла мысль, которой можно описать это требование, что разум должен быть создан сразу в состоянии движения. Нельзя придумать столь неотразимый аргумент, что привнесёт динамику в статический предмет. Невозможно создать столь убедительную программу, которую получится запустить на камне.

sepremento 21.10.20 в 04:52

И даже если существует разум, который способен на modus ponens, то ему бесполезно иметь такие убеждения, как...

sepremento 21.10.20 в 04:54

(А) Если младенец находится на рельсах, то убрать его с рельсов --- фузл.

sepremento 21.10.20 в 04:57

(Б) Младенец находится на рельсах.

sepremento 21.10.20 в 04:57

... пока в разуме не реализовано:

sepremento 21.10.20 в 04:58

Динамика: если множество убеждений содержит "X это фузл", то отправить X в систему действий.

sepremento 21.10.20 в 04:59

Под "динамикой" я имею в виду свойство физически реализованного развития когнитивной системы с течением времени. "Динамика" это нечто, что происходит внутри когнитивной системы, а не данные, которые хранятся в памяти и которыми она манипулирует. Динамика это сами манипуляции. Невозможно записать динамику на бумаге, потому что бумага останется просто лежать. Так что текст, который написан выше со словом "динамика" --- не динамика. Если бы я хотел, чтобы текст был динамикой, а не просто сообщал о "динамике", то мне нужно было бы написать приложение на Java.

sepremento 21.10.20 в 05:02

Нет нужды говорить, что убеждение...

sepremento 21.10.20 в 05:03

(В) Если массив убеждений содержит "X это фузл", то "отправить X в систему действий" это фузл.

sepremento 21.10.20 в 05:04

не принесёт пользы, если у разума нет механизма преобразования гипотетических действий с ярлыком "фузл" в реальную двигательную активность.

sepremento 21.10.20 в 05:05

Посредством точных аргументов о природе когнитивных систем, возможно, получится доказать...

sepremento 21.10.20 в 05:06

(Г) Разум с динамикой, которая посылает планы с пометкой "фузл" в систему действий является более фузл, чем разум, который так не делает.

sepremento 21.10.20 в 05:07

... но это тоже бесполезно, если у слушающего разума раньше не было динамики с заменой своего текущего исходного кода альтернативным исходным кодом, который более фузл.

sepremento 21.10.20 в 05:08

Вот поэтому нельзя убедить камень в фузлости.

sepremento 21.10.20 в 05:08