Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: GAZP vs. GLUT

В "Невообразимой нелепости зомби" Дэниел Деннетт говорит:

sepremento 08.02.20 в 08:07

На данный момент уже несколько философов заявили, что планируют принять мой вызов предложить бесспорную защиту концепции зомби, но единственная, что я видел на данный момент, использует фантастический, но "логически возможный" постулат --- фантазию, которая восходит к Гигантской Таблице Поиска Неда Блока.

sepremento 08.02.20 в 08:12

Гигантская Таблица Поиска на языке программистов --- это реализация функции в виде гигантской таблицы аргументов и значений для сбережения времени вычисления. Если моей программе необходимо знать произведение двух аргументов от 1 до 100, то я могу написать умножающий алгоритм для вычисления результата каждый раз при вызове функции, а могу заготовить Гигантскую Таблицу Поиска с 10.000 ячеек и двумя индексами. Бывают случаи, когда это стоит делать, впрочем умножение к ним не относится --- случаи, когда нужно использовать функцию очень часто, а аргументов у неё немного, либо когда циклы дёшевы при инициализации, но дороги при выполнении.

sepremento 08.02.20 в 08:16

Гигантская Таблица Поиска растёт быстро, очень быстро. ГПТ из всех возможных разговоров из двадцати фраз с десятью словами в каждом высказывании и с использованием только базового английского из 850 слов потребует 7,6×10^585 записей.

sepremento 08.02.20 в 08:18

Заменить мозг человека Гигантской Таблицей Поиска всех возможных сенсорных входов и моторных выходов (по сравнению с какой-либо схемой точной оцифровки) потребует невероятного количества памяти. Однако "в принципе", как любят говорить философы, это возможно.

sepremento 08.02.20 в 08:20

ГПТ не является зомби в классическом смысле, потому что физически отличается от человека. (По сути, ГПТ не может действовать на основе той же физики, что и человек, она слишком велика для нашей Вселенной. Но для задач философии, мы проигнорируем этот факт и предположим бесконечное количество памяти.)

sepremento 08.02.20 в 08:21

Но можно ли вообще считать ГПТ зомби? Я имею в виду, ведёт ли она себя как человек, не обладая при этом сознанием?

sepremento 09.02.20 в 08:43

Вот язык в теле ГПТ говорит о сознании. Вот её пальцы пишут философские статьи. С какой стороны не посмотри, пока не заглянешь внутрь черепа, ГПТ выглядит как человек... что в точности удовлетворяет, на первый взгляд, определению зомби: ведёт себя как человек, но дома никого нет.

sepremento 09.02.20 в 08:45

Если только ГПТ не обладает сознанием, в таком случае пример будет неверный.

sepremento 09.02.20 в 08:46

Не могу припомнить, чтобы кто-то заявлял о наличии сознания у ГПТ. (Похоже, что моя осведомлённость в этой области не дотягивает до профессионального уровня, не стесняйтесь меня поправлять.) Даже люди, которых обвиняют в том, что они (ах!) функционалисты, не утверждают, что ГПТ может обладать сознанием.

sepremento 09.02.20 в 08:53

ГПТ это доведённая до абсурда идея, что сознание --- всего лишь паттерн входов и выходов, а это позволяет её сторонникам избегать беспокойства о том, что происходит внутри этого устройства.

sepremento 09.02.20 в 08:55

Что обобщенный принцип против зомби (ОППЗ) говорит нам о Гигантской Поисковой Таблице (ГПТ)?

sepremento 09.02.20 в 08:56

На первый взгляд кажется, что ГПТ это типичный Хозяин Зомби --- отделяемая, дополнительная, обнаружимая, бессознательная система, которая оживляет зомби и заставляет его говорить о сознании по разным причинам.

sepremento 09.02.20 в 08:58

Внутри ГПТ находится всего лишь простая компьютерная программа, которая сопоставляет входы и выходы. Даже термин "простая компьютерная программа" является усложнением. ГПТ больше похожа на ПЗУ, чем на ЦПУ. Мы с тем же успехом можем рассуждать о наборе переключателей дорожек, которые управляют движением группы шариков до корытца из предварительно рассортированного набора. Это всё, чем занимается ГПТ.

sepremento 09.02.20 в 09:01

Спикер Партии Этичных Требований к Зомби отвечает: "Ох, вот все вы анти-механисты так говорите! Когда вы смотрите на мозг, вы видите набор нейтротрансмиттеров, которые открывают ионные каналы. Если ионные каналы могут стать сознанием, почему не могут рычажки и шарики?"

sepremento 09.02.20 в 09:07

"Проблема не в рычажках," --- отвечает функционалист, --- "проблема в том, что у ГПТ неверный паттерн из рычажков. Нужны рычаги, которые реализуют такие вещи, как, например, формирование убеждений об убеждениях или моделирование самого себя... да в конце концов нужна возможность записывать что-нибудь в память, чтобы время могло идти в процессе вычислений. Разве что вы считаете, будто можно запрограммировать сознание на Haskell."

sepremento 09.02.20 в 09:10

"Ничего не знаю," --- говорит спикер ПЭТЗ, --- "я знаю лишь, что вот этот так называемый зомби пишет статьи по философии на тему сознания. Что же создаёт эти философские статьи, если не сознание?"

sepremento 09.02.20 в 09:12

Отличный вопрос! Давайте рассмотрим его повнимательнее.

sepremento 10.02.20 в 07:23

В физике существует такая игра, называется Следуй-За-Энергией. Маленький Ричард Фейнман играл в неё с отцом:

sepremento 10.02.20 в 07:24

Вот о чём говорил мой отец, когда спрашивал: "Что заставляет этот предмет двигаться? Всё движется, потому что светит Солнце." Затем мы с увлечением это обсуждали:

sepremento 10.02.20 в 07:26

"Нет, игрушка движется, потому что взведена пружина," --- говорил я. "Как же взвелась пружина?" --- спрашивал он.

sepremento 10.02.20 в 07:27

"Я её завёл."

sepremento 10.02.20 в 07:27

"А ты почему двигаешься?"

sepremento 10.02.20 в 07:27

"Потому что поел."

sepremento 10.02.20 в 07:27

"А еда растёт только потому, что светит Солнце. Так что все вещи двигаются благодаря свету Солнца." Это давало понимание, что движение --- простая трансформация энергии Солнца.

sepremento 10.02.20 в 07:29

Когда становишься старше, узнаешь, что энергия сохраняется, её нельзя создать или уничтожить, поэтому фраза об использовании энергии не имеет особого смысла. Невозможно изменить общее количество энергии, тогда что имеют в виду, когда говорят, что её тратят?

sepremento 10.02.20 в 07:31

А когда физики вырастают, они начинают играть в новую игру под названием Следуй-За-Негэнтропией --- по сути это та же игра, что и раньше. Правда, правила более математичны, сама игра полезнее, а её принципы сложнее понять.

sepremento 10.02.20 в 07:32

Рационалисты начинают играть в Следуй-За-Невероятностью, взрослой версией "Откуда ты знаешь?". Правило игры рационалистов звучит так: "каждое убеждение, которое кажется невероятным требует соответствующего количества подкрепляющих свидетельств." (У этой игры правила поразительно похожи на Следуй-За-Негэнтропией)

sepremento 10.02.20 в 07:35

Как только кто-то нарушает правила игры рационалистов, находится местечко в их рассуждении, где некоторое количество невероятности возникает из воздуха. А это такой же признак проблемы, как и, ох, например, остроумное устройство из колёсиков и шестерёнок, что движется вечно.

sepremento 10.02.20 в 07:37

К вам подходит человек и говорит: "Я твердо и страстно верю, что существует объект на поясе астероидов из шоколадных пирогов, сантиметров тридцать в поперечнике. И ты не сможешь доказать, что это невозможно." Однако, если у человека нет доступа к некоторой форме свидетельства, чтобы сформировать такое убеждение, будет крайне невероятно, что правильное убеждение возникнет спонтанно. Потому, человеку либо придётся указать на свидетельство, либо убеждение окажется неверным. "Но нельзя доказать невозможность внезапного формирования правильного убеждения моим мозгом!" Нельзя, но такое внезапное убеждение будет крайне невероятно, точно как, например, спонтанное превращение яичницы в яйцо.

sepremento 10.02.20 в 07:40

В Следуй-За-Невероятностью крайне подозрительно даже упоминать какую-либо гипотезу, если у вас нет должного количества свидетельств, чтобы сократить пространство возможных гипотез. Почему вы не выделяете столько же эфирного времени дециллиону других столь же возможных гипотез? Чтобы найти гипотезу "шоколадный торт на поясе астероидов" в пространстве гипотез необходимо достаточное количество свидетельств --- иначе нет причин выделять ей больше времени на размышление, чем триллионам других кандидатов вроде "На поясе астероидов находится деревянный комод" или "Летающего Макаронного Монстра вырвало на мои кроссовки."

sepremento 10.02.20 в 07:47

В игре Следуй-За-Невероятностью нельзя создать сложную научную гипотезу из пустоты, не имея соответствующего количества свидетельств. А всё потому, что нереально предположить, что по чистой случайности вдруг спонтанно начнётся обсуждение истинной гипотезы .

sepremento 11.02.20 в 07:49

Философ говорит: "Череп этого зомби вмещает Гигантскую Поисковую Таблицу со всеми входами и выходами мозга человека." Это довольно невероятно. Потому вы спрашиваете: "Как возникло это невероятное событие? Откуда возникла ГПТ?"

sepremento 11.02.20 в 07:51

В целом, мы нарушаем стандартную процедуру философских мысленных экспериментов. В обычной процедуре дозволено формулировать фразы вроде "Допустим, вы едете на луче света..." и не переживать по поводу физической возможности, не говоря уже о какой-то там невероятности. Однако в нашем случае, происхождение ГПТ имеет значение, а потому важно понимать: "Что является источником этой невероятности?"

sepremento 11.02.20 в 07:54

Очевидный ответ --- взяли спецификацию вычислительных возможностей мозга человека и использовали её для вычисления и записи в память Гигантской Поисковой Таблицы. (Таким образом создав бесчисленные гуголы людей, некоторых в страшных муках, большинство из которых сойдут с ума во вселенной хаоса, где нет связи между входами и выходами. Но будь проклята этика, всё ради философии.)

sepremento 11.02.20 в 07:58

Очевидный ответ --- то, что кто-то взял вычислительную спецификацию человеческого мозга и использовал её для предвычисления значений Гигантской Поисковой Таблицы. (Породив таким образом бесчисленные гуголы людей, некоторых из них в страшных муках, подавляющее большинство которых сойдут с ума во вселенной хаоса, в которой входы не соответствуют выходам. Но к чёрту этику, это всё ради философии.)

niya3 20.08.20 в 20:33

В этом примере, ГПТ пишет статьи о сознании, благодаря алгоритму, обладающему сознанием. ГПТ --- это не зомби, не более, чем телефон, из которого доносятся речи о сознании, а сам он при этом остаётся небольшим потребительским электронным устройством. Смартфон всего лишь передаёт философские речи от существа на другой стороне линии. ГПТ, которая создана на основе спецификаций мозга человека, делает то же самое.

sepremento 11.02.20 в 08:02

"Хорошо," --- скажет философ, --- "ГПТ создана случайным образом и вот так получилось, что у неё те же самые связи входов и выходов, что и у некоторого человека."

sepremento 11.02.20 в 08:03

Как именно случайно создали ГПТ?

sepremento 11.02.20 в 08:03

"Мы используем источник истинной случайности --- квантовый механизм."

sepremento 11.02.20 в 08:03

Но квантовый механизм всего лишь реализует правила Ветвления в Обе Стороны [fn]В оригинале Branch Both Ways instruction --- прим. перев.[/fn]. Когда создается один бит при помощи источника квантовой случайности, детерминистический результат выглядит как 1 в одном наборе вселенных-ветвей (локально связанных амплитудных облаков) и как 0 в другом наборе вселенных. Повторите 4 раза и получите 16 наборов вселенных.

sepremento 11.02.20 в 08:07

Так что это высказывание эквивалентно утверждению, что ГПТ создавали, выписывая все варианты последовательностей нулей и единиц размером с ГПТ, потом поместили эти записи в гигантскую корзину, а затем каким-то образом из корзины вытащили ГПТ, которая удачно соответствует спецификации мозга человека. Итак, откуда берётся невероятность?

sepremento 11.02.20 в 08:10

Потому что, если это не совпадение --- если существовала какая-то функция залезть-в-корзину, которая достала соответствующую человеку ГПТ не случайно, а по задумке --- тогда вот эта функция залезть-в-корзину, вероятно, обладает сознанием, а ГПТ это опять смартфон, а не зомби. Теперь она соединена с человеком через двух посредников вместо одного, но это всё равно смартфон! Отличная попытка скрыть источник невероятности таким способом!

sepremento 12.02.20 в 08:22

Приготовьтесь узреть, куда Следуй-За-Невероятностью привела нас: где причина, которая заставляет язык некоторого тела говорить о своём внутреннем слушателе? Сознание находится не в поисковой таблице. Сознание находится не на фабрике, которая производит эти поисковые таблицы. Сознание находится в том, что указало на некоторую уже созданную поисковую таблицу и сказало "Используй вот эту!"

sepremento 12.02.20 в 08:25

Теперь можно увидеть, почему я рассказывал об игре Следуй-За-Невероятностью. Обычно, при разговоре с человеком мы имеем склонность принимать нечто внутри черепа за "вместилище сознания". И только после игры в Следуй-За-Невероятностью можно осознать, что настоящая причина вести подобные рассуждения в том-что-отвечает-за-невероятность такого рассуждения --- как бы далеко в пространстве и времени оно не находилось, подобно Солнцу, двигающему заводную игрушку.

sepremento 12.02.20 в 08:29

"Нет, нет!" --- вскричит философ, --- "В мысленном эксперименте не просто случайно создаётся множество ГПТ с последующим извлечением наиболее похожей на человека поисковой таблицы при помощи алгоритма, обладающего сознанием! Я уточняю, что в данном мысленном эксперименте из непостижимо гигантской корзины с ГПТ абсолютно случайно достают ГПТ, которая идентичная входам и выходам мозга человека! Вот! Я загнал тебя в угол! Теперь нельзя больше играть в Следуй-За-Невероятностью!"

sepremento 12.02.20 в 08:33

Ох. То есть источником невероятности являются условия эксперимента.

sepremento 12.02.20 в 08:33

Когда мы сыграем в Следуй-За-Невероятностью ещё раз, мы окажемся снаружи мысленного эксперимента и будем смотреть на философа.

sepremento 12.02.20 в 08:34

То, что указывает на единственную ГПТ, ведущую разговор о сознании, среди всего многообразия возможностей, в данный момент является... человеком с сознанием, который предлагает вам представить себе подобный сценарий. А ещё наш собственный мог, который заполняет пустое место ответа на вопрос: "Что скажет вот эта ГПТ в ответ на 'Поговори о своём внутреннем слушателе'?"

sepremento 12.02.20 в 08:37

Мораль сей басни такова, что если отследить дискурс о "сознании" до его истоков, обыкновенно вы обнаружите сознание. Оно не всегда окажется прямо на виду. Иногда оно тщательно скрыто. Но оно есть. Следовательно, обобщённый принцип против зомби выполняется.

sepremento 12.02.20 в 08:38

Если существует Хозяин Зомби в форме чатбота, который обрабатывает и смешивает дискурс человека о "сознании", то исходный корпус текстов всё же был создан людьми, обладающими сознанием.

sepremento 12.02.20 в 08:40