Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Variable Question Fallacies

Альберт: "Каждый раз, когда я слышал падение дерева, оно создавало звук, поэтому я считаю, что остальные деревья тоже создают звуки в процессе падения. Я не думаю, что мир ведёт себя по-разному в зависимости от того, смотрю я на него или нет".

Alaric 09.01.20 в 14:54

Барри: "Секундочку! Если никто не может этого услышать, то как это может быть звуком?"

Alaric 09.01.20 в 14:54

Иногда, когда я описываю диалог между Альбертом и Барри о том, создаёт ли звук падающее дерево в лесу, я замечаю, что уже не могу сопереживать моим героям. Я просто перестаю на интуитивном уровне понимать, откуда берутся такие споры, пусть я и наблюдал их многократно.

Alaric 09.01.20 в 15:00

В такие минуты, чтобы заново вернуть себе это чувство возмущения, я повторяю себе: "Падающее дерево либо производит звук, либо нет!"

Alaric 09.01.20 в 15:01

Для произвольного высказывания P на привычном нам языке, выражение (P или ¬P) не всегда оказывается надежной эвристикой. Высказывание "Это высказывание ложно" невозможно считать ни истинным, ни ложным. А ведь ещё можно вспомнить старое доброе: "Вы перестали бить свою жену, да или нет?"

Alaric 09.01.20 в 15:05

У математика, который верит в классическую (а не интуитивную) логику, есть способы всё равно настаивать на том, что (P или ¬P) --- это теорема. Например, можно заявить, что "это высказывание ложно" --- не высказывание.

Alaric 09.01.20 в 15:07

Однако все такие способы достаточно нетривиальны, и этого достаточно, чтобы показать, что не всё так просто. Нельзя просто сломя голову нестись с фразой "либо это есть, либо этого нет!"

Alaric 09.01.20 в 15:09

Так производит падающее дерево звук или нет, или...?

Alaric 09.01.20 в 15:10

Конечно, 2 + 2 либо равняется Х, либо нет? Возможно и так, если не меняется Х, не меняется 2, и не меняются + и =. Если же Х иногда оказывается равным 5, а иногда --- 4, ваше возмущение может оказаться неуместным.

Alaric 09.01.20 в 15:13

Чтобы утверждать, что (P или ¬P) обязано быть правдой, символ P должен обозначать одно и то же в обеих частях дилеммы. "Либо падение производит звук, либо нет!" --- но если Альберт::звук не то же самое, что и Барри::звук, нет ничего парадоксального в том, чтобы дерево производило Альберт::звук, но не Барри:звук.

Alaric 09.01.20 в 15:16

(Использование :: во избежание путаницы в пространстве имен вошло у меня в привычку со времен использования C++. Если есть две разных библиотеки, определяющие класс Звук, можно писать Библиотека1::Звук, уточняя, какой именно Звук имеется в виду. К сожалению, такая практика, кажется, не слишком распространена. Мне часто хочется использовать её при письме.)

Alaric 09.01.20 в 15:18

Различие может быть очень тонким: Альберт и Барри могут тщательно проговорить, что речь идёт об одном и том же дереве, в том же самом лесу, падение то же самое и убедиться, что их разногласия касаются одного и того же события. И при этом не проверить, обсуждают ли они одно и то же понятие.

Alaric 09.01.20 в 15:57

Вспомните продуктовый магазин, в который вы чаще всего заходите. Он на левой стороне улицы или на правой? Но, разумеется, никакой "левой стороны" улицы нет, есть только левая сторона для вас по мере движения в каком-нибудь направлении. Многие слова, которые мы используем, по сути являются функциями неявно заданных переменных, полученных из контекста.

Alaric 09.01.20 в 15:58

Это явление называется "дейксис говорящего". И решить эту задачу для создания искусственного интеллекта, который должен обрабатывать естественный язык, ужасно сложно.

Alaric 09.01.20 в 16:00

"Мартин сказал Бобу, что здание слева от него". Но "слева" --- это слово-функция. И эта функция вычисляется, исходя из значения обусловленной говорящим человеком переменной, которая незаметно извлекается из контекста. Чьё "слева" имеется в виду, Боба или Мартина?

Alaric 09.01.20 в 16:02

Переменные в ошибке изменяемого вопроса часто сложно заметить. Ситуации из жизни обычно сложнее, чем: "То есть, ты думаешь, что Z + 2 равно 6?"

Alaric 09.01.20 в 16:04

Если путаница в пространстве имён приводит к тому, что два разных понятия выглядят единым, потому что они называются одинаково, или сжатая карта показывает два разных события как одно, потому что для них есть только один файл в голове, или одна и та же функция возвращает разный результат в разном контексте, то сама реальность становится изменчивой. По крайней мере, так алгоритм ощущается изнутри. Сознание видит только карту, но не саму территорию.

Alaric 09.01.20 в 16:08

Если вы столкнулись с вопросом, в котором есть скрытая переменная, и в разных контекстах у вас получаются разные выражения, кажется, что реальность нестабильна сама по себе. Картина, которую вы видите своим разумом, меняется в зависимости от направления взгляда.

Alaric 09.01.20 в 16:10

Студенты (и профессоры-постмодернисты) часто теряются, когда обнаруживают предложение с более чем одним способом интерпретации. Им кажется, что они открыли нестабильную часть бытия.

Alaric 09.01.20 в 16:11

"О, чудо! 'Солнце вращается вокруг Земли' истинно для охотника Унги, но для астронома Амары 'Солнце вращается вокруг Земли' ложно! Не бывает однозначной истины!" Разбор этого умствования первокурсника я оставлю читателю в качестве упражнения.

Alaric 09.01.20 в 16:11

Но всё же, даже я сам поймал себя на том, что пишу: "Если X равно 5 в некоторых случаях и 4 в других, то высказывание '2+2 = X' может не иметь постоянного значения истинности". Не бывает высказываний с переменной истинностью. У "2+2 = X" нет значения истинности. Это не высказывание в математическом смысле. Это сочетание символов можно считать высказыванием в той же мере, в какой высказыванием является выражение "2 + 2 = ", а "Фред перепрыгнул через" --- грамматически верное предложение.

Alaric 09.01.20 в 16:17

Но эта ошибка прокрадывается в наши рассуждения, даже когда вы о ней прекрасно знаете. Потому что именно так алгоритм ощущается изнутри.

Alaric 09.01.20 в 16:18