Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: The Generalized Anti-Zombie Principle

Каждая задача, которую я решил, стала правилом, помогающим в решении последующих задач.

sepremento 01.02.20 в 08:51

--- Рене Декарт, "Рассуждение о методе".

sepremento 01.02.20 в 08:52

"Зомби" это гипотетические создания, которые атом к атому повторяют нас, ими управляют те же самые видимые физические законы, разница лишь в том, что у них нет сознания.

sepremento 01.02.20 в 08:53

"Зомби" это гипотетические создания, идентичные нам на атомной уровне, которые подчиняются тем же наблюдаемым физическим законам, что и мы. Разница лишь в том, что у них нет сознания.

niya3 18.08.20 в 19:13

Несмотря на сложность философии, основной аргумент против зомби прост: если вы сосредоточите внутренний взор на своем внутреннем взоре, то внутренний рассказчик (тихий голос в голове, что произносит ваши мысли) вскоре скажет фразу "я осознаю, что осознаю", после чего вы произнесёте её вслух, затем напечатаете на клавиатуре компьютера и создадите доступный внешнему наблюдателю пост в блоге.

sepremento 01.02.20 в 08:56

Сознание, чем бы оно не являлось --- субстанцией, процессом, словом для описания замешательства --- не является эпифеноменом. Разум может поймать внутреннего слушателя, когда тот слушает и произнести услышанное вслух. Сам факт того, что я написал этот абзац, по крайней мере наводит на мысль, что идею, будто у сознания отсутствуют экспериментально определяемые последствия, можно отбросить.

sepremento 01.02.20 в 08:59

Мне не нравится говорить "А потому давайте примем это как данность и продолжим" применительно к столь спорному философскому вопросу, но, судя по всему, подавляющее большинство комментаторов на Overcoming Bias готовы это принять. Коме того, есть другие выводы, которые можно получить только после того, как мы примем, что невозможно исключить сознание из рассмотрения и сохранить ту же самую видимую Вселенную. А потому давайте примем это как данность и продолжим.

sepremento 01.02.20 в 09:02

Форма аргумента против зомби выглядит так, будто её можно обобщить до принципа против зомби. Но как сделать правильное обобщение?

sepremento 01.02.20 в 09:03

Возьмём, к примеру, следующее высказывание: "Я держу в руке переключатель, который никак не влияет на твой мозг, но если я щелкну кнопкой, то ты потеряешь сознание". Исключает ли принцип против зомби такой сценарий при помощи той же самой структуры аргумента?

sepremento 01.02.20 в 09:05

Применительно к вышеуказанному случаю, кажется, ответом является "да". Конкретнее, можно заявить: "Даже после переключения клавиши, я всё ещё буду говорить о сознании по тем же самым причинам, что и раньше. Если у меня есть сознание сейчас, то у меня будет сознание и после нажатия кнопки."

sepremento 01.02.20 в 09:06

Философы могут возразить: "Но ведь так ты приравниваешь сознание и разговор о сознании! Как же насчёт Мастера Зомби, чатбота, который выплевывает пережёванные куски корпуса текстов из любительских дискуссий о сознании?"

sepremento 01.02.20 в 09:09

Однако я не ставил знак равенства между"сознанием" и вербальным поведением. Основная посылка в том, что, помимо прочего, основа "сознания" является причиной, по которой люди говорят о своих внутренних слушателях.

sepremento 01.02.20 в 09:11

Как я уже доказывал (подробно) в цепочке о правильном использовании слов, при определении слова мы не всегда хотим получить идеальное необходимое-и-достаточное определение по Аристотелю. Иногда нужно что-то вроде карты сокровищ с указанием пути к внешнему объекту. Таким образом, "нечто, что фактически заставляет меня говорить об осознанности, которую невозможно выразить словами" --- это не необходимое-и-достаточное определение. Но если нечто, что фактически заставляет меня вести дискурс о невыразимой словами осознанности, не является "сознанием", тогда...

sepremento 01.02.20 в 09:15

... тогда сам дискурс становится бесполезным. Это не сногсшибательный аргумент против зомби --- вопросы эмпирики не могут быть разрешены указанием на трудности дискурса. Однако, если попытаться обойти принцип против зомби, возникнут проблемы не только с правдоподобностью дискурса, но и с его значением в целом.

sepremento 01.02.20 в 09:16

Можем ли мы определить слово "сознание" как "некая штука, которая заставляет людей говорить о 'сознании'"? У такого подхода есть значимое преимущество, мы таким образом гарантируем, что существует как минимум один факт, обозначенный словом "сознание". Даже если наши убеждения о сознании являются путаницей, "сознание" будет означать когнитивную архитектуру, которая создаёт такую путаницу. Однако, утверждение определения означает лишь обещание последовательного использования слова. Никакой практический вопрос так не разрешается, мы не получаем ответ на "заставляет ли внутренняя осознанность говорить о внутренней осознанности?"

sepremento 03.02.20 в 07:57

Вернёмся к переключателю.

sepremento 03.02.20 в 07:57

Если мы допустим, что аргумент против зомби применим по отношению к ситуации с переключателем, то Обобщённый Принцип Против Зомби не просто говорит нам: "Любое изменение, которое не является доступным в принципе к наблюдению в эксперименте (допринаэ), не может удалить ваше сознание". Щелчок переключателем доступен к наблюдению в эксперименте, однако крайне маловероятно, что оно удалит сознание.

sepremento 03.02.20 в 08:01

Вероятно, принцип против зомби утверждает следующее: "Любое изменение, которое не влияет на вас любым допринаэ способом, не может удалить ваше сознание"?

sepremento 03.02.20 в 08:04

Но разве разумно утверждать, что щелчок переключателя не влияет на вас каким-либо допринаэ способом? Каждая частица переключателя взаимодействует с частицами вашего тела и мозга. Существуют гравитационные эффекты - крохотные, но реальные и допринаэ. Гравитационное притяжение переключателя массой в один грамм на расстоянии десяти метров составляет 6 × 10−16 м/с2. Это же около половины диаметра нейтрона на секунду в секунду, гораздо меньше теплового шума, но гораздо больше планковского уровня.

sepremento 03.02.20 в 08:05

Мы могли бы щелкнуть переключателем на расстоянии световых лет и в этом случае переключение не вызвало бы мгновенного эффекта (что бы не означало "мгновенное" в этом контексте)(если Стандартная Модель физики верна).

sepremento 03.02.20 в 08:11

Однако, не возникает ощущения, что из-за этого наш мысленный эксперимент должен измениться. Кажется, что если неким переключателем без какого-либо соединения щелкнут в другой части комнаты, то не стоит ожидать выключения внутреннего слушателя подобно лампочке, потому что переключатель "очевидно не меняет" нечто, что является истинной причиной разговоров о внутреннем слушателе. Чем бы вы не являлись, вы не ожидаете, что переключатель что-то с этим сделает.

sepremento 03.02.20 в 08:14

Это большой шаг.

sepremento 03.02.20 в 08:14

Если вы отрицаете, что этот шаг разумный, то лучше вам больше не ходить мимо переключателей. И всё равно, это большой шаг.

sepremento 03.02.20 в 08:15

Главная идея редукционизма в том, что наши карты реальности состоят из многих уровней для экономии вычислительных мощностей, но сама реальность, по всей видимости, состоит из строго одного уровня. И весь наш дискурс об устройстве вселенной оперирует понятиями гораздо выше уровня фундаментальных частиц.

sepremento 04.02.20 в 07:53

Переключатель действительно воздействует на фундаментальные частицы в теле и мозге. Он толкает их аж на величину диаметра нейтрона от того места, где они иначе бы находились.

sepremento 04.02.20 в 07:55

В повседневной жизни, мы пренебрегаем таким малым изменением со словами, что переключатель "не оказывает влияния". Но это не так. Он всё меняет аж на диаметр нейтрона! Что вообще может остаться прежним после этого? Всего лишь описание, которое вы дадите более высоким уровням организации --- клеткам, белкам, импульсам вдоль аксона нейрона. Поскольку карта гораздо менее детальна, чем территория, приходится обозначать множество разных состояний одной точкой.

sepremento 04.02.20 в 07:58

Какое бы описание мозга с использованием нейронов и паттернов активности (или даже структуры отдельных микротрубочек, составляющих аксоны и дендриты) человек не придумал, оно не изменится после щелчка переключателем на противоположной стороне комнаты. Ядра больше нейтронов, атомы больше ядер, а к моменту описания молекулярного уровня, крохотная гравитационная сила уже пропала из списка тем, которые вас беспокоят.

sepremento 04.02.20 в 08:03

Однако если сложить достаточно большое число гравитационных сил, то в какой-то момент их сумма выдернет вас из комнаты и разорвёт на части, так что маленький эффект это не отсутствие эффекта.

sepremento 04.02.20 в 08:04

Но может быть, эта крохотная сила притяжения чудесным образом притянет один дополнительный ион кальция ближе к ионному каналу и это приведёт к чуть более быстрому взаимодействию, а это заставит единственный нейрон послать импульс чуточку быстрее, что запустит цепную реакцию, что заставит подумать о чём-то, что вызовет эпилептический припадок, который убьёт вас и выключит сознание...

sepremento 04.02.20 в 08:08

Если сложить множество маленьких по величине эффектов, то получится большой по величине эффект --- достаточно большой, чтобы изменить что угодно. Потому утверждение, что переключатель вовсе не производит эффекта, является натянутым.

sepremento 04.02.20 в 08:11

Однако у единственного тумблера сила воздействия значительно меньше термодинамической неопределенности, не говоря уже о квантовой неопределенности. И как мы не ожидаем потери сознания в результате хаотического теплового колебания частиц, так не стоит ожидать его потери из-за чьего-то чиха вдалеке.

sepremento 04.02.20 в 08:13

Внимательный Байесианец заметит, что я только что сделал утверждение об ожиданиях, состояниях знания, обоснованных убеждениях относительно вещей, которые способны или не способны выключать сознание.

sepremento 04.02.20 в 08:14

И вовсе необязательно, что это разрушит аргумент против зомби. Вероятности не являются несомненными фактами, однако законы вероятности являются теоремами. Если рациональность показывает, что нельзя верить во что-либо при данной информации, то это закон, а не предположение.

sepremento 04.02.20 в 08:17

И всё же, такая версия аргумента против зомби слабее. Тут нет ясной и понятной установки вида: "нельзя удалить сознание, оставив все атомы на тех же местах." (Или вместо "все атомы" можно использовать "все причины, приводящие к принципиально доступным к наблюдению в эксперименте эффектам", а место "тех же местах" использовать "ту же волновую функцию" и так далее)

sepremento 05.02.20 в 07:58

Однако, мы всё ещё можем применять новую версию аргумента против зомби всё. Вы можете сказать: "Я не знаю, что такое сознание и подозреваю, что я фундаментально озадачен этим вопросом. Но если это слово можно отнести к чему бы то ни было, его можно отнести, помимо прочего, к причине, по которой я говорю о сознании. Я не знаю, почему я говорю о сознании, но оно происходит в моём черепе и я ожидаю, что оно имеет какое-то отношение к деятельности нейронов. Возможно, если бы я понимал сознание, то я стал бы говорить о ещё более фундаментальных вещах вроде микротрубочек или нейротрансмиттеров, что передаются по синапсам. И тем не менее, вот этот переключатель, которым ты щелкнул, производит гораздо меньший эффект на мои нейротрансмиттеры и микротрубочки, нежели тепловой шум при температуре в 310 Кельвин. Поэтому какой бы причиной не была вызвана моя речь о сознании, я не ожидаю, что на неё в значительной степени повлияет гравитационное притяжение этого тумблера. Возможно возникнет бесконечно малое влияние? Но я точно не ожидаю выключения сознания. Я ожидаю, что буду продолжать говорить о сознании почти тем же самым образом и по почти тем же самым причинам."

sepremento 05.02.20 в 08:06

Эта версия принципа против зомби гораздо слабее. Но, в то же время, она гораздо более общая. И она верна с позиции здравого смысла.

sepremento 05.02.20 в 08:07

Вообще-то, есть две разные версии вышеуказанного утверждения --- для редукциониста и для дуалиста. Редукционист добавит к сказанному: "Что бы не заставляло меня говорить о сознании, кажется вероятным, что его наиважнейшие части работают на гораздо более высоком уровне, чем атомные ядра. Если понимать сознание, то можно абстрагироваться от работы отдельных нейронов, говорить о когнитивной архитектуре высокого уровня и тем не менее суметь описать создание мыслей вроде 'я мыслю, следовательно, существую'. Поэтому перемещение тел на расстояние диаметра нейтрона не должно влиять на моё сознание (за исключением, возможно, малых вероятностей, малых величин или больших задержек до начала влияния)."

sepremento 05.02.20 в 08:11

Дуалист добавит к исходному утверждению: "Что бы не заставляло меня говорить о сознании, оно выходит за рамки известной вычислительной физики, а это означает вовлечение квантовой механики. И тем не менее, моё сознание не переключается при каждом чихе на расстоянии километра. Если бы это было так, я бы заметил. Я бы пропускал несколько секунд реальности, или ощущал пробуждение как от общего наркоза, или иногда говорил 'я не мыслю, следовательно, не существую.' Поэтому, коль скоро тепловые колебания не нарушают моё сознание, я не ожидаю, что и переключатель его нарушит."

sepremento 05.02.20 в 08:17

Так или иначе, не следует ожидать исчезновения осознанности при произнесении слова "Абракадабра", даже если это слово и окажет бесконечно малый физический эффект на мозг ---

sepremento 05.02.20 в 08:19

Но постойте! Если вы слышите, что кто-то произнёс слово "Абракадабра", то это уже существенное влияние на мозг --- настолько большое, что даже мозг может это заметить. Это слово может изменить ваш внутренний нарратив, вы можете задуматься: "почему этот человек только что произнёс 'Абракадабра'?"

sepremento 05.02.20 в 08:21

И всё же, вы ожидаете продолжить говорить о сознании почти тем же самым способом по почти тем же самым причинам.

sepremento 07.02.20 в 09:05

Повторюсь, речь не о том, что "сознание" приравнено к "тому, что заставляет говорить о сознании". Речь о том, что сознание, наряду с другими вещами, заставляет говорить о сознании. Следовательно, нечто, что заставит сознание выключиться, должно заставить прекратить говорить о сознании.

sepremento 07.02.20 в 09:07

Повторюсь, речь не приравнивании "сознания" к "тому, что заставляет говорить о сознании". Речь о том, что сознание, помимо всего прочего, является причиной разговоров о сознании. Следовательно, то, что заставит сознание исчезнуть, должно заставить прекратить разговоры о сознании.

niya3 20.08.20 в 10:07

Если с вами что-то сделают, что не должно очевидным образом поменять внутренний нарратив --- тот самый голос в голове, который иногда говорит "я мыслю, следовательно, существую" и чьи слова вы произносите вслух --- то это что-то не должно сделать вас бессознательным.

sepremento 07.02.20 в 09:09

Это высказывание истинно, даже если внутренний нарратив останется "почти таким же" и причины его возникновения останутся почти такими же. Среди этих почти тех же самых причин находится нечто, что вы называете "сознанием".

sepremento 07.02.20 в 09:10

Если вас интересует, к чему всё это ведёт и почему так важно столь подробно обсуждать, казалось бы, столь очевидный обобщенный принцип против зомби, задумайтесь вот над какой дискуссией:

sepremento 07.02.20 в 09:12

Альберт: "Предположим, я заменю все нейроны в вашей голове крохотными искусственными нейронами-роботами, у которых те же самые связи, то же самое поведение на входах и выходах, аналогичные внутренние состояния и правила обучения."

sepremento 07.02.20 в 09:13

Бернис: Это же ужасно! Это больше не будет существом, обладающим сознанием.

niya3 20.08.20 в 11:11

Чарльз: Ну, это всё-таки будет существом, обладающим сознанием, но это уже буду не я.

niya3 20.08.20 в 11:14

Сэр Роджер Пенроуз: "Предлагаемый Вами мысленный эксперимент невозможен. Нельзя воспроизвести поведение нейронов, избежав соприкосновения с областью квантовой гравитации. С учетом сказанного, мне нет смысла принимать дальнейшее участие в этом разговоре." (Уходит.)

sepremento 07.02.20 в 09:16

Сэр Роджер Пенроуз: Предлагаемый Вами мысленный эксперимент невозможен. Нельзя воспроизвести поведение нейронов не столкнувшись с квантовой гравитацией. С учетом сказанного, мне нет смысла принимать дальнейшее участие в этом разговоре. (Уходит.)

niya3 20.08.20 в 11:18

Альберт: "Предположим, что замена происходит по одному нейрону за раз и настолько быстро, что не возникает разницы в общем механизме."

sepremento 07.02.20 в 09:17

Бернис: "Но как это вообще возможно?"

sepremento 07.02.20 в 09:17