Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Zombie Responses

Сегодня я утомлён, потому что вчера до трёх утра писал эссе о зомби из более чем 6000 слов, поэтому сегодня лишь отвечу Ричарду, а торчащие концы подберу завтра.

sepremento 24.01.20 в 07:44

(А) Ричард Чаппелл пишет:

sepremento 24.01.20 в 07:44

Замечание по терминологии (во избежание ненужного замешательства): то, что вы называете "осознаваемым", другие назовут всего лишь "по-видимому осознаваемым"

sepremento 24.01.20 в 07:46

Разница между "я пока не вижу противоречий" и "это логически возможно" настолько велика (это NP-полная задача даже в некоторых кажущихся простыми случаях), что полезно иметь два разных термина. Поскольку спор о зомби разросся до размеров, где эту огромную разницу можно случайно замести под ковер незначительных терминологических отличий, я считаю, что будет правильно говорить "осознаваемо" вместо "логически возможно", а может быть, сделать ещё более видимое различие. Я не могу выбирать профессиональную терминологию, которая уже устоялась, но в нашем случае, могу всерьёз отказаться от её использования.

sepremento 24.01.20 в 07:56

Возможно, я буду говорить "по-видимому осознаваемо" в отношении того рода информации, что получают сторонники зомби, воображая Миры Зомби, а "логически возможно" в отношении того рода информации, что получается после представления завершенной модели или логического доказательства. Обратите внимание на разницу между информацией, которую вы можете получить, закрыв глаза и вообразив зомби, и информацией, что необходима вам для построения аргумента к тезису эпифеноменализма.

sepremento 25.01.20 в 08:14

Так, ваши взгляды можно представить в форме материализма Типа А, а именно, что о зомби нельзя даже (искренне) помыслить, не говоря уже о метафизической возможности.

sepremento 25.01.20 в 08:16

Материализм Типа А --- это большой пакет. Не следует присваивать мне этот пакет, пока не увидишь, что я согласен с каждой частью. Я считаю, тот, кто задаёт вопрос "Что есть сознание?" --- задаёт правомочный вопрос и имеет право на озарение. Но вовсе необязательно, что ответ имеет форму "Вот штука, она обладает всеми свойствами обычно присущими сознанию по таким-то и таким-то причинам", но может в некоторой степени состоять из озарений, которые заставят понять, что вопрос был задан неверно.

sepremento 25.01.20 в 08:23

Такая позиция не разрушает концепцию сознания. Это позиция реалиста в отношении вопроса, какого рода озарений стоит ожидать. Особенно, когда сталкиваешься с задачей, которая (1) кажется, будто должна иметь решение, (2) кажется, как будто не может иметь каких-либо решений и (3) обсуждать её приходится с опорой на до конца не понятную, собранную по случаю, модель архитектуры человеческого мышления.

sepremento 25.01.20 в 08:29

(1) До сих пор, насколько я могу судить, вы не определили какого-либо логического противоречия в описании мира зомби. Вы лишь указали, что он будет как бы странным. Однако можно помыслить множество чудных миров. Это не причина указывать внутреннее противоречие. Поэтому для меня до сих пор остаётся загадкой, что же это за противоречие такое.

sepremento 25.01.20 в 08:32

Хорошо, я распишу всё с позиции материалиста:

sepremento 25.01.20 в 08:32

1. Мир зомби, по определению, содержит все части нашего мира, все наблюдаемые феномены, которые связаны конфигурациями "вызвано тем-то" или "является эффектом того-то". В частности, он содержит причину моего видимого высказывания "я мыслю, следовательно, существую".

sepremento 25.01.20 в 08:34

2. Когда я сосредотачиваюсь внутренним взором на своём внутреннем взоре, я могу вскоре ощутить, как мой внутренний рассказчик скажет: "я сосредотачиваю свой внутренний взор на моём внутреннем взоре" и могу, если захочу, произнести это вслух.

sepremento 25.01.20 в 08:36

3. Интуитивно кажется, будто эта моя внутренняя сосредоточенность заставляет внутреннего рассказчика произносить определённые вещи, а внутренний рассказчик может заставить мои губы произносить некоторые вещи.

sepremento 26.01.20 в 08:15

4. Слово "сознание", если оно вообще что-либо значит, имеет отношение к тому-что-внутри или к тому-что-является-причиной или к тому-что-заставляет-меня-говорить-"у меня есть внутренний взор"

sepremento 26.01.20 в 08:16

5. Из (3) и (4) должно следовать, что если мир зомби ограничен в отношении причин говорить "я мыслю, следовательно, существую", то мир зомби содержит нечто, что мы называем "сознанием".

sepremento 26.01.20 в 08:18

6. По определению, мир зомби не содержит сознания.

sepremento 26.01.20 в 08:18

7. Мне кажется, что (3) имеет довольно высокую вероятность эмпирической истинности. Таким образом, я оцениваю как высокую, вероятность, что мир зомби логически невозможен.

sepremento 26.01.20 в 08:19

Можно спасти Мир Зомби, дозволив чему-то иному, а не сознанию, стать причиной моему внутреннему рассказчику говорить "я мыслю, следовательно, существую". В сочетании с предположением, что сознание существует, эта мысль кажется мне безрассудной.

sepremento 26.01.20 в 08:21

Но если всё вышеуказанное осознаваемо, то разве Мир Зомби не является осознаваемым?

sepremento 26.01.20 в 08:21

Нет, потому что две структуры в Мире Зомби используют присваивание слову "сознание" разных эмпирических отсылок, наподобие "воды" в нашем мире со значением H2O и "воды" на Земле-близнеце по версии Патнэм со значеним XYZ. Чтобы Мир Зомби был логически возможен, недостаточно заявить, что слово "сознание", с учётом всего, что мы знаем об устройстве мира, можно соотнести с некоторым эпифеноменом, совершенно непохожем на сознание, известное нам. В Мире Зомби отсутствует сознание, а не "сознание" --- это мир без H2O, а не мир без "воды". Вот что нужно для выведения утверждения "можно удалить нечто подразумеваемое под словом 'сознание' из нашего мира, оставив все атомы на том же месте".

sepremento 26.01.20 в 08:29

Это равносильно высказыванию: Я считаю эмпирическим фактом, при условии постоянства феномена, к которому относится слово "сознание", что логически невозможно удалить сознание, не передвигая при этом атомы. Я не стану спекулировать, что будет означать удаление из мира не сознания, а "сознания".

sepremento 26.01.20 в 08:31

(2) Заявление, что соответствие наших квалий физическому миру "чудесно" (с позиций дуалиста), вызывает путаницу. В конце концов, это гарантируют законы Природы. Это не более чудесно, чем любая другая логически связная необходимость (например, константы наших законов физики).

sepremento 26.01.20 в 08:33

Говорить, что законы Природы сами по себе "чудесны" --- дополнительный усложняющий элемент теории, который требует постулата, поскольку не определен в терминах, которые мы уже знаем. Постулируется, что (а) внутренний мир, обладающий сознанием, (б) неисправный внешний мир, что говорит о сознании без причины и (в) что оба идеально сосуществуют. Утверждение (в) не следует из (а) и (б), следовательно, это отдельный постулат.

sepremento 26.01.20 в 08:39

Согласен, что такое использование слова "чудесный" конфликтует с философским восприятием нарушения закона Природы. Я использовал его в смысле невероятности возникновения из ниоткуда, вроде убеждения о вечном двигателе. Это неправильное слово с учётом контекста. Но разве мы не должны интуитивно называть вещи такого рода чудом? Не сознание заставляет вас говорить, что вы обладаете сознанием, а отдельная физическая штуковина. Но существует закон, который приводит эти две вещи в соответствие друг другу --- и это по сути та же степень сумасшествия, что и крекер, заменяющий плоть Христа, но при этом сохраняющий внешний вид и проявления крекера. Это закон природы такой, гарантирующий соответствие двух вещей, понимаете?

sepremento 27.01.20 в 08:23

А именно, Зомби (или "внешний") Чалмерс не делает никаких выводов, поскольку его речи бессмысленны. И уж тем более он не делает каких-либо безосновательных выводов. Он просто производит звуки, не более достойные эпистемической оценки, чем пение птиц.

sepremento 27.01.20 в 08:25

С позиций разработчика ИИ, мне кажется, должна быть возможность создать ИИ, что будет систематически улучшать то внутреннее устройство самого себя, которое коррелирует (в терминах общей информации и системных отношений) с окружающей средой, возможно, с использованием чисел с плавающей точкой того рода, что я обычно называю "вероятностью", коль скоро они подчиняются правилам, заданным теоремами Коха, при встрече ИИ с новой информацией, то есть, прошу прощения, новыми чувственными вводными.

sepremento 27.01.20 в 08:30

Вы можете заявить, что до тех пор, пока ИИ это всего лишь транзисторы --- до тех пор, пока у него нет двойственности --- у ИИ нет убеждений.

sepremento 27.01.20 в 08:30

Я считаю, что моя точка зрения на эту тему была довольно изложена в "Простой истине".

sepremento 27.01.20 в 08:31

Мне кажется очевидным создавать карты, которые систематически коррелируют с территориями без упоминания чего бы то ни было, кроме чистой причинно-следственной связи. Пусть ИИ создаёт карту Техаса. Другой ИИ пролетает с картой над Техасом и проверяет, что шоссе расположены в указанных местах и даёт сигнал "Истина", когда обнаруживает совпадение и "Ложь", когда совпадения нет. Можно отказаться называть это "картой Техаса", но ИИ продолжат подавать сигналы "Истина" или "Ложь", и те же самые ИИ дадут сигнал "Ложь" после рассмотрения убеждения Чалмерса об эпифеноменальном внутреннем ядре, а я с ними соглашусь.

sepremento 27.01.20 в 08:38

Очевидно, что функция построения карты реальности выполняется исключительно Внешним Чалмерсом. Вся процедура производства убеждений управляется байесианской структурой из причинно-следственных взаимодействий. Внутреннему Чалмерсу нечего делать, разве что освящать всё происходящее эпифеноменальной значимостью. И здесь "значимость" --- нечто совершенно не связанное с отношениями между картой и территорией или возможностью использовать карту для движения по реальности. Поэтому, когда речь заходит о "точности", не говоря уже о "систематической точности", мне кажется, что её можно определять, глядя исключительно на Внешнего Чалмерса.

sepremento 29.01.20 в 08:14

Очевидно, что функция построения карты реальности выполняется исключительно Внешним Чалмерсом. Вся процедура производства убеждений управляется байесианской структурой из причинно-следственных взаимоотношений. Внутреннему Чалмерсу чем заняться, разве что освящать всё происходящее эпифеноменальной значимостью. И здесь "значимость" --- нечто совершенно не связанное с отношениями между картой и территорией или с возможностью использовать карту для перемещений по реальности. Поэтому, когда речь заходит о "точности", не говоря уже о "систематической точности", мне кажется, что её можно определять исключительно ориентируясь на Внешнего Чалмерса.

niya3 17.08.20 в 18:18

(Б) Во вчерашнем тексте, я упустил предположение, когда писал:

sepremento 29.01.20 в 08:15

Если ИИ, способный к самоулучшению, смотрит на часть себя, которая делает вывод "B" при условии А --- то есть, ту часть, что записывает "В" в память всегда, когда А истинно --- затем исследует эту часть, изучает, как она действует (через причинно-следственные связи) в контексте вселенной и решает, что эта часть склонна систематически записывать ложные данные в память, то похоже, что ИИ нашёл у себя баг и перепрограммирует себя так, чтобы не записывать "В" в пул убеждений при условии А.

sepremento 29.01.20 в 08:21

...

sepremento 29.01.20 в 08:21

Однако нет какой-либо гарантии, что внешний Чарлмерс или иной рефлексивно непротиворечивый самоулучшающийся ИИ будет верить в эту загадочную правильность. Хорошим дизайном ИИ будет, на мой взгляд, рефлексивно непротиворечивый интеллект, у которого будет проверяемая теория собственной работы как системы вывода причинно-следственных связей, а следовательно, проверяемая теория производства такой системой точных убеждений на пути к достижении ею своих целей.

sepremento 29.01.20 в 08:27

По сути, необходимо ещё одно допущение, а именно, что "хорошо спроектированный ИИ" (по крайней мере, в моём представлении) судит о собственной рациональности модульно. То есть он обеспечивает свою общую рациональность через обеспечение локальной рациональности. Если возникает элемент, который в контексте вселенной систематически ненадёжен локально --- то есть из набора возможных убеждений "Bi" и условий Ai, в пул убеждений добавляется некоторое "Bi" при локальном условии Ai и после рефлексии система показывает, что Bi ложно (или в смысле вероятностных убеждений, не точно) при истинности локального условия Ai --- тогда мы имеем дело с багом. Такое модульное устройство позволяет отслеживать проблемы и я считаю, что таким будет устройство ИИ первого поколения [Редакция 2013: То, что я имел в виду здесь, обрело плоть и формализовано в статье Tiling Agents for Self-Modifying AI, часть 6.]

sepremento 30.01.20 в 08:49

Идея в том, что когнитивная система, ограниченная причинно-следственными связями --- такая как ИИ, запрограммированный использовать только эффективные свои элементы, или ИИ, собственная теория функционирования которого может быть им самим проверена, или внешний Чалмерс, что пишет философские статьи --- которая верит, что у неё есть эпифеноменальное внутреннее "Я", должна делать нечто систематически ненадёжное, поскольку то же самое заключение она сделает в Мире Зомби. Разум, все части которого систематически локально надёжны в соответствующих контекстах, будет систематически надёжен в общем. Следовательно, разум, который ненадёжен глобально должен содержать как минимум одну ненадёжную локальную часть. Поэтому когнитивная система, ограниченная причинно-следственными связями при проверке себя на локальную надежность обнаружит, что как минимум один шаг в рассуждениях при добавлении убеждения об эпифеноменальном внутреннем "Я" ненадёжен.

sepremento 30.01.20 в 08:56

Если разум может быть последовательным в рефлексии каким-то иным способом и избежать этого доказательства о невозможности верить в зомби, то предлагаю философам сделать попытку указать на него.

sepremento 30.01.20 в 08:58

Если не уточнить специальным образом всё вышесказанное, можно получить очень доступный способ рефлексивной непротиворечивости, при котором ИИ никогда не назовёт себя ненадёжным. Так, например, если ИИ обнаружит часть себя, которая вычислит 2+2=5 (в контексте подсчёта овец), то он помыслит: "О, эта часть работает неправильно и утверждает, что 2+2=5... однако, какое совпадение, 2+2 и в самом деле равно 5 или так мне кажется... так что даже несмотря на кажущуюся ненадёжность этой части, я лучше её сохраню как есть, иначе не удастся обработать этот особый случай." Поэтому я говорю об обеспечении надёжности в общем через обеспечение локальной систематической надёжности --- если просто сравнивать глобальные убеждения с глобальными убеждениями, проку не будет.

sepremento 30.01.20 в 09:03

Отсюда можно извлечь урок: Показывай глобальную надёжность своих суждений через демонстрацию локальной надёжности каждого шага. Избегай простого сравнения выводов суждения со своей интуицией [Редакция 2013: обсуждение факта, что валидная логика является валидной локально см. в статье Proofs, Implications, and Models]

sepremento 30.01.20 в 09:06

(В) Анонимный автор написал:

sepremento 29.01.20 в 08:27

Постороннее замечание, однако, мне кажется, что используемая вами этимология слова "н'шама" неверна. Оно связано со словом, обозначающим "дышать", а не "слышать". Корень слова "слышать" содержит айин, а н'шама такой корень не содержит.

sepremento 29.01.20 в 08:30

Вот что я называю удивительно обманчивым совпадением --- несмотря на то, что слово Н'Шама всплыло из совершенно иных соображений, оно звучало исключительно так, чтобы заставить меня считать, что оно имеет отношение к внутреннему слушателю.

sepremento 29.01.20 в 08:31

Упс.

sepremento 29.01.20 в 08:31