Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: The Generalized Anti-Zombie Principle

Пользуясь каждой найденной истиной для нахождения новых.

--- Рене Декарт, "Рассуждение о методе".[fn]Пер. Г.Г. Слюсарева и А.П. Юшкевича --- Прим. перев.[/fn]

"Зомби" --- это гипотетические создания, идентичные нам на атомном уровне, которые подчиняются тем же наблюдаемым физическим законам, что и мы. Разница лишь в том, что у них нет сознания.

Хотя философия это сложно, основной довод против зомби прост: если сосредоточить свой внутренний взор на своём внутреннем взоре, то внутренний рассказчик (тихий голос в голове, проговаривающий мысли) вскоре скажет: "я осознаю, что я осознаю", после чего фраза произносится вслух, затем набирается на клавиатуре компьютера и появляется доступный внешнему наблюдателю пост в блоге.

Сознание, чем бы оно не было --- веществом, процессом, словом для описания замешательства --- не является эпифеноменом. Разум может заметить внутреннего слушателя в момент слушания и произнести услышанное вслух. Сам факт того, что я набрал этот абзац, по крайней мере намекает на то, что можно отбросить идею, будто бы у сознания отсутствуют экспериментально различимые последствия.

Не хотелось бы говорить "Так что давайте примем это как данность и продолжим" по отношению к столь спорному философскому вопросу, но кажется, подавляющее большинство комментаторов блога Overcoming Bias готовы с этим согласиться. Кроме того, есть и другие выводы, к которым можно прийти только приняв невозможность удалить сознание так, чтобы вселенная казалась точно такой же, как и до этого. Так что давайте примем это как данность и продолжим.

Форма довода против зомби подсказывает, что его можно обобщить до принципа против зомби. Но как же сделать правильное обобщение?

Допустим, кто-то говорит: "Я держу переключатель, который никак не влияет на твой мозг, но если я нажму на кнопку на нём, то твоё сознание исчезнет". Структура аргумента та же самая, справится ли с ним принцип против зомби?

Кажется, что в приведённом выше случае, ответ --- "да". В частности, можно утверждать: "Даже после нажатия кнопки, я продолжу говорить о сознании по тем же самым причинам, что и до нажатия. Если сейчас я обладаю сознанием, то я продолжу обладать им и после нажатия кнопки."

Философы могут возразить: "Постойте, вы ведь приравниваете сознание и разговоры о сознании! А как быть с Мастером Зомби --- чатботом, который изрыгает перемешанные куски корпуса текстов из любительских рассуждений о сознании?"

Однако я не ставил знак равенства между "сознанием" и вербальным поведением. Основной тезис в том, что настоящий референт "сознания", помимо прочего, является той причиной, по которой люди говорят о внутренних слушателях.

Как я уже (довольно подробно) высказался в цепочке о правильном использовании слов, мы не всегда стремимся при определении слова получить идеальное необходимое-и-достаточное определение по Аристотелю. Иногда нам нужно что-то вроде карты сокровищ, которая укажет путь к внешнему референту. Так что, "то, что на самом деле заставляет меня говорить о невыразимой осознанности" --- это не необходимое-и-достаточное определение. Но если то, что на самом деле является причиной, по которой я рассуждаю о невыразимой осознанности, не является "сознанием", тогда...

... тогда сам дискурс становится тщетным. Это больше не сногсшибательный довод против зомби --- эмпирические вопросы не решаются сложностью дискурса. Однако, при попытке пренебречь принципом против зомби, возникнут проблемы не только с благовидностью дискурса, но и с его сутью.

Может, определим слово "сознание" как "то, что вызывает у людей разговоры о ''сознании''"? У такого подхода есть мощное преимущество --- он гарантирует, что слово "сознание" означает как минимум один реальный факт. Даже если наши убеждения о сознании являются заблуждением, "сознание" будет означать ту когнитивную структуру, которая породила это заблуждение. Однако, утвердив определение мы лишь договариваемся использовать слово последовательно. Это не решает эмпирических вопросов, например: "вызывает ли внутренняя осознанность разговоры о внутренней осознанности?"

Вернёмся к переключателю.

Если допустить, что довод против зомби применим по отношению к примеру с переключателем, то обобщённый принцип против зомби не должен гласить просто: "Любое изменение, которое не является в принципе экспериментально обнаружимым (впэо), не может удалить ваше сознание". Нажатие кнопки экспериментально обнаружимо, однако оно вряд ли удалит сознание.

Быть может, принцип против зомби гласит: "Любое изменение, которое не влияет на вас любым впэо способом, не может удалить ваше сознание"?

Но есть ли у нас основания утверждать, что нажатие кнопки не влияет на вас никаким впэо способом? Каждая частица переключателя взаимодействует с частицами вашего тела и мозга. Существуют гравитационные эффекты - незначительные, но реальные и впэо. На расстоянии 10 метров гравитационное притяжение переключателя массой в один грамм составит 6×10^−16 м/с^2. Примерно половину диаметра нейтрона в секунду в секунду --- существенно меньше теплового шума, но существенно выше планковского уровня.

Можно было бы удалиться на расстояние в пару световых лет и нажимать кнопку оттуда, тогда нажатие не оказывало бы на вас мгновенного эффекта (что бы не означало "мгновенный" в этом контексте)(при допущении, что стандартная модель физики верна).

Предыдущий абзац не должен повлиять на постановку нашего мысленного эксперимента. Даже если ни к чему не подключенный переключатель находится с вами в одной комнате, то не стоит ожидать, что внутренний слушатель исчезнет, ведь переключатель "очевидно не затрагивает" того, что является истинной причиной ваших разговоров о внутреннем слушателе. Чем бы вы не являлись, вы не ожидаете, что переключатель с этим провзаимодействует.

Это большой шаг.

Если вы отрицаете, что этот шаг является обоснованным, то лучше бы вам впредь держаться подальше от переключателей. И всё-таки, это большой шаг.

Главная идея редукционизма в том, что наши карты реальности --- многоуровневые, что помогает экономить вычислительные ресурсы, но сама реальность, по всей видимости, строго одноуровневая. Весь наш дискурс об устройстве вселенной оперирует понятиями, находящимися гораздо выше уровня элементарных частиц.

Переключатель всё-таки меняет состояние элементарных частиц в теле и мозге. Он отталкивает их на расстояние, сравнимое с диаметром нейтрона, от того места, где они иначе бы находились.

В повседневной жизни мы пренебрегаем таким малым изменением со словами, что переключатель "не оказывает влияния". Но это не так. Он всё меняет аж на диаметр нейтрона! Что вообще может остаться прежним после этого? Только лишь описания, которое соответствуют более высоким уровням организации --- клеткам, белкам и перемещающимся по аксонам нейронов импульсам. Поскольку карта гораздо менее подробна, чем территория, приходится обозначать множество разных состояний одной точкой.

Любое согласованное описание мозга в терминах нейронов и шаблонов активности (или даже структур отдельных микротрубочек, составляющих аксоны и дендриты) останется неизменным после нажатия на кнопку в той же комнате. Ядра больше, чем нейтроны; атомы больше, чем ядра. Когда вы дошли до молекулярного уровня, то крохотная гравитационная сила уже пропала из списка того, о чём стоит беспокоиться.

Однако если сложить достаточно большое число гравитационных сил, то в какой-то момент их сумма выдернет вас из комнаты и разорвёт на части, так что маленький эффект это не отсутствие эффекта.

Но может быть, эта крохотная сила притяжения по удивительному совпадению притянет один дополнительный ион кальция ближе к ионному каналу, что приведёт к чуть более быстрому взаимодействию, чем обычно, что приведёт к появлению целого нейронного импульса, которого не должно было быть, который повлечёт за собой цепочку мыслей, которые вызовут эпилептический припадок, который убьёт вас и лишит сознания...

Если сложить множество маленьких количественных эффектов, то получится большой количественный эффект --- достаточно большой, чтобы повлиять на что угодно. Поэтому не стоит утверждать, что переключатель буквально не оказывает влияния.

Однако сила воздействия одного-единственного переключателя значительно меньше термодинамической неопределенности, не говоря уже о квантовой неопределенности. И раз уж мы не ожидаем, что сознание будет пропадать и появляться под действием хаотического теплового колебания частиц, так же не стоит ожидать, что оно исчезнет из-за чьего-то чиха вдалеке.

Внимательный байесианец заметит, что я только что сделал утверждение об *ожиданиях*, состояниях *знания*, обоснованных *убеждениях* относительно вещей, которые способны или не способны выключать сознание.

Вовсе необязательно, что это разрушит довод против зомби. Вероятности не являются несомненными фактами, однако законы вероятности являются теоремами. Когда рациональность показывает, что нельзя верить во что-либо при данной информации, то это закон, а не предположение.

И всё же, такая формулировка довода против зомби слабее. Тут нет ясной, понятной и совершенно однозначной установки вида: "невозможно удалить сознание, оставив все атомы на тех же местах." (Вместо "все атомы" можно сказать "все причины, приводящие к в принципе экспериментально обнаружимым эффектам", а вместо "те же места" --- "та же волновая функция", и так далее)

Однако, новая формулировка довода против зомби всё ещё применима. Можно сказать: "Я не знаю, что такое сознание и допускаю, что я полностью заблуждаюсь в данном вопросе. Но если это слово хоть чему-то соответствует, то это что-то, помимо всего прочего, является и причиной, по которой я говорю о сознании. Я не знаю, почему я говорю о сознании, но это происходит внутри моего черепа и я ожидаю, что это как-то связано с генерацией нейронных импульсов. Возможно, если бы я на самом деле понимал сознание, я бы сейчас говорил о ещё более элементарных вещах, вроде микротрубочек или распылённых в синаптических щелях нейромедиаторах. И тем не менее, уровень влияния на нейромедиаторы и микротрубочки от нажатия кнопки на том самом переключателе будет существенно ниже, чем тепловой шум при температуре 310K. Поэтому, чем бы ни была истинная причина разговоров о сознании, я не ожидаю, что гравитационное притяжение переключателя скажется на ней в значительной степени. Возможно, это будет самое крохотно бесконечно малое влияние. Но я точно не ожидаю исчезновения сознания. Я ожидаю, что буду продолжать говорить о сознании почти ровно тем же самым образом и по почти ровно тем же самым причинам."

Такое применение довода против зомби гораздо слабее. Но, в то же время, она гораздо более общая. И она верна с позиции простого здравого смысла.

Вообще-то, есть две разные версии вышеуказанного утверждения, одно для редукциониста и другое для вещественного дуалиста. Редукционист добавит к сказанному: "Что бы не заставляло меня говорить о сознании, скорее всего, наиважнейшие части этого работают не на уровне ядер атома, а на гораздо более высоком уровне. Если понимать сознание, то можно абстрагироваться от работы отдельных нейронов и говорить о высокоуровневых когнитивных структурах, но всё-таки суметь описать то, как появляются мысли вроде ''я мыслю, следовательно, существую''. Поэтому перемещение тел на расстояние диаметра нейтрона не должно влиять на моё сознание (за исключением, возможно, весьма малых вероятностей или весьма малых величин или только после существенных задержек до начала влияния)."

Вещественный дуалист добавит к исходному утверждению: "Что бы не заставляло меня говорить о сознании, оно выходит за рамки известной нам вычислительной физики, что возможно означает, что нужно принять во внимание квантовые эффекты. Однако моё сознание не пропадает и не появляется при каждом чихе на отдалении, иначе я бы это заметил. Это было бы похоже на выпадание из реальности на несколько секунд, или на ощущение пробуждения от общего наркоза, или может я периодически говорил бы ''я не мыслю, следовательно, не существую''. Поэтому, коль скоро тепловые колебания не нарушают мою осознанность, я не ожидаю, что к этому приведёт нажатие на кнопку."

Так или иначе, не следует ожидать исчезновения осознанности при произнесении слова "Абракадабра", даже если это слово и окажет бесконечно малый физический эффект на мозг ---

Но постойте! Когда вы слышите, что кто-то произнёс слово "Абракадабра", то это уже заметное влияние на мозг --- настолько большое, что даже мозг может это заметить. Это слово может повлиять на ваш внутренний нарратив --- вы можете задуматься: "почему этот человек только что произнёс ''Абракадабра''?"

Однако вы ожидаете, что после этого продолжите говорить о сознании почти ровно тем же самым способом по почти ровно тем же самым причинам.

Повторюсь, речь не о приравнивании "сознания" к "тому, что заставляет говорить о сознании". Речь о том, что сознание, помимо всего прочего, является причиной разговоров о сознании. Следовательно, то, что заставит сознание исчезнуть, должно заставить прекратить разговоры о сознании.

Если с вами сделать что-то, что не должно очевидным образом повлиять на внутренний нарратив --- тот самый голос в голове, который иногда говорит "я мыслю, следовательно, существую" и чьи слова вы, при желании, произносите вслух --- то это не должно лишить вас сознания.

Это высказывание истинно, даже если внутренний нарратив останется "почти таким же" и причины его возникновения останутся почти такими же. Среди этих почти тех же самых причин находится нечто, что вы называете "сознанием".

Если вы не понимаете, к чему всё это и почему так важно столь подробно обсуждать казалось бы очевидный обобщенный принцип против зомби, представьте себе следующий разговор:

Альберт: Предположим, что я заменил все нейроны в вашей голове крохотными искусственными робо-нейронами, которые точно так же локально обрабатывают входные и выходные сигналы, обладают аналогичными внутренними состояниями и правилами обучения, а так же образуют те же самые связи.

Бернис: "Это меня убьёт! Я перестану быть существом, обладающим сознанием."

Чарльз: "Ну, существо, обладающее сознанием, всё-таки останется, но это уже буду не я."

Сэр Роджер Пенроуз: "Предлагаемый вами мысленный эксперимент невозможен. Нельзя воспроизвести поведение нейронов не столкнувшись с квантовой гравитацией. Поэтому не вижу смысла дальше участвовать в этом разговоре". (Уходит.)

Альберт: Предположим, что замена происходит по одному нейрону за раз и это происходит настолько быстро, что это не влияет на работу мозга в целом.

Бернис: Но как такое вообще возможно?

Альберт: Маленький робот подплывает к нейрону, окружает его, сканирует, учится воспроизводить его, а затем внезапно, в промежутке между импульсами, производит подмену. При этом имитация столь хороша, что внешнее поведение остаётся почти таким же, как в случае отсутствия вмешательства. Может быть не точь-в-точь таким же, но влияние значительно меньше теплового шума при температуре 310K.

Чарльз: "Ну и что?"

Альберт: Разве твои убеждения не противоречат обобщенному принципу против зомби? Случись вышеописанное, это не изменило бы твой внутренний нарратив! Ты продолжила бы говорить о сознании по точно тем же самым причинам, что и раньше.

Бернис: Эти маленькие роботы являются Повелителем Зомби. Они заставят меня говорить о сознании, даже несмотря на то, что сознания у меня нет. Мир зомби возможен, если допустить присутствие внешнего, экспериментально обнаружимого Повелителя Зомби --- тех самых роботов.

Чарльз: "О, это не так, Бернис. Маленькие роботы не имитируют фальшивое сознание и не предлагают строки из корпуса человеческих текстов. Они делают то же самое, что и настоящие нейроны, просто сделаны из кремния, а не из углерода."

Альберт: "Подожди, ты что, только что согласился со мной?"

Чарльз: "Я не говорил, что полученная личность не будет обладать сознанием. Я сказал, что это буду не я."

Альберт: Очевидно, что принцип против зомби достаточно общ для утверждения, что данная процедура не повлияла на истинную причину разговоров о вот этой "Я"-штуке.

Чарльз: Неа! Эта процедура совершенно точно повлияла на истинную причину моих разговоров о сознании. Она заменила одну причину другой --- роботами. Так что, не смотря на то, что, по совпадению, новая причина тоже является сознанием --- вызывает разговоры о сознании исходя из того же самого обобщенного принципа --- это не означает, что это та же самая причина, что и раньше.

Альберт: Но мне даже не придётся говорить тебе обо всей этой процедуре с роботами. Ты этого не заметишь. Если ты, основываясь на самодиагностике, считаешь, что ты на самом деле "та же личность", что и пять минут назад, а я сделаю что-то, что не изменит этих внутренних свидетельств, то твоё заключение о том, что ты та же самая личность, что и пять минут назад, будет столь же обоснованным, что и раньше. Разве обобщенный принцип против зомби не утверждает, что ты каким-то образом заметишь, если я сделаю нечто, что изменит твоё сознание, или даже превратит в совершенно иную личность?

Бернис: Не замечу, если ты заменишь меня Повелителем Зомби. Тогда некому будет замечать.

Чарльз: "Интроспекция не совершенна. Много чего происходит у меня в мозге и я этого не замечаю."

Альберт: "Вы постулируете эпифеноменальные факты о сознании и идентичности!"

Бернис: Вовсе нет! Я могу экспериментально определить разницу между нейронами и роботами.

Чарльз: "Вовсе нет! Я могу экспериментально определить момент, когда новая личность заменит прежнего меня."

Альберт: Ну да, а я могу определить щелчок переключателя! Вы определите нечто, что не приводит к значимым переменам в истинной причине разговоров о сознании и идентичности. В подтверждение этому, вы будете говорить точно таким же образом и после подмены.

Бернис: Это всё из-за робо-Повелителя Зомби!

Чарльз: То, что два человека говорят об "личной идентичности" по схожим причинам, не делает их одной и той же личностью.

Я думаю, что обобщенный принцип против зомби подкрепляет позицию Альберта, но об этом в следующих эссе. Мне нужно ещё поработать над предпосылками, да и это эссе уже слишком длинное.

Но осознаёте ли вы важность вопроса: "Насколько сильно можно обобщить аргумент против зомби, чтобы он оставался действенным?"

От ответа на этот вопрос может зависеть облик будущих галактических цивилизаций...

Переведено на Нотабеноиде
http://notabenoid.org/book/77383/461395

Переводчики: niya3, sepremento, Alaric