Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: The World: An Introduction

Предыдущие эссе касались тем мышления человека, языка, целей и социальной динамики. В них, для объяснения человеческого поведения использовались знания из математики, физики и биологии, но очень мало сказано о месте человечества в природе и о мире природы самом по себе.

sepremento 23.11.19 в 18:40

Сколь полезным было противопоставление человека как целеориентированной системы и бесчеловечных процессов в эволюционной биологии и искусственном интеллекте, столь же полезным в грядущих цепочках эссе будет противопоставление человека как физической системы и бесчеловечных процессов без признаков разума.

sepremento 23.11.19 в 18:43

В конце концов, человек состоит из частей, каждая из которых не является человеком. Мир атомов не похож на мир, который мы воспринимаем в повседневной жизни и уж точно не похож на мир одушевленных созданий, как мы обычно представляем. Как выразился Джулио Джорелло в интервью Дэниела Деннета: "Да, у нас есть душа. Но она создана из множества маленьких роботов."

sepremento 23.11.19 в 18:47

"Просто реальность" содержит семь цепочек на эту тему. Первые три знакомят с вопросом как соотносится человеческий мир с миром, законы которого открывают физики: "Правда закономерна" (о базовых взаимосвязях [возможно, тут уместно использовать какой-то вариант корня "сцепленность", типа "сцепках", но звучит так себе] между физикой и познанием [вероятно, есть смысл обсудить используемое здесь слово]), "Основы редукционизма" (о научном объяснении разнообразных явлений), и "Наслаждение обыденностью" (о личной и эмоциональной значимости научного мировоззрения). За ними следуют две цепочки, которые углубляются в специфические академические вопросы: "Физикализм для продвинутых" (о сложной проблеме сознания) и "Квантовая физика и множественные миры" (о проблеме многих измерений в физике). И, наконец, заключительная цепочка "Наука и рациональность" и эссе "Техническое объяснение технических объяснений" собирают идеи из предшествующих цепочек воедино и связывают их с научной практикой.

shabanov42 02.12.19 в 17:23

Обсуждение сознания в контексте квантовой физики иллюстрирует важность редукционизма применительно к современным проблемам науки и философии. Для интересующихся я скажу ещё несколько слов об этих двух сферах знания. Тем же, кто желает пропустить и двинуться дальше, говорю: "Пропускайте!"

sepremento 02.12.19 в 18:11

Обсуждения сознания и квантовой физики показывают важность редукционизма для современных противоречий в науке и философии. Я добавлю немного контекста относительно этих тем далее. Если же вам не терпится пропустить - пропускайте.

shabanov42 02.12.19 в 19:15

☙

sepremento 02.12.19 в 18:11

Разум в мире.
Можем ли мы узнать, каково это -- быть летучей мышью?

sepremento 02.12.19 в 18:12

Разумеется, мы можем создать когнитивные модели более высокого качества, предсказывающие поведение летучей мыши или более точные модели её нервной системы, но совершенно неочевидно, что это поможет нам понять, как ощущается эхолокация или полет с точки зрения летучей мыши.

sepremento 02.12.19 в 18:14

Действительно, кажется, будто невозможно с уверенностью отнести какое-либо переживание к похожим на переживания летучей мыши. Разве не может автомат без сознания воспроизвести внешние проявления летучей мыши с произвольной точностью? (Философы называют такие автоматы "зомби", несмотря на малое сходство с общепринятым образом зомби, которые довольно сильно отличаются от разумных агентов)

sepremento 02.12.19 в 18:19

Инопланетный психолог столкнется с той же самой проблемой в попытке смоделировать человеческое сознание. Возможно, ему удастся создать идеальную предсказывающую модель наших слов и действий при виде красной розы, но это не будет значить, что инопланетяне поймут, как красный цвет "ощущается изнутри".

sepremento 02.12.19 в 18:21

При помощи подобных примеров философы Томас Нагель и Дэвид Чалмерс доказывали, что нейронные и когнитивные модели, составленные от третьего лица не смогут полностью описать ощущение сознания от первого лица. Неважно, сколько мы знаем о некоторой физической системе, всегда остается возможность, с этой точки зрения, что система не обладает переживаниями "от первого лица". Традиционный дуализм, с его бестелесными душами, что свободно парят и нарушают законы физики, может быть и ложен, но Чалмерс настаивает на более слабом тезисе -- что сознание есть "факт следующего уровня" и не может быть объяснён с помощью фактов физики.

sepremento 02.12.19 в 18:26

Некоторые ученые и философы сочли подобную линию суждений убедительной. Если можно ощутить интуитивное соответствие действительности этого аргумента, должны ли мы принять его заключение и забить на физикализм?

sepremento 02.12.19 в 18:28

Нам точно не стоит его отвергать лишь потому, что он странно звучит и ощущается слегка ненаучно. Существует чёткий механизм работы объяснений и убеждений, как указанный аргумент выдержит испытание нашим пониманием этого механизма? Можем ли мы получить подсказки из истории науки или из нашего понимания физических принципов формирования свидетельств? Этот вопрос рассмотрен в цепочке "Физикализм 201"

sepremento 02.12.19 в 18:34

☙

sepremento 14.12.19 в 18:04

Миры в мире.
На данный момент лучшей математической моделью Вселенной является квантовая механика, выдержавшая вековое испытание временем. В этой теории вводится комплексное число -- "амплитуда вероятности", которая, при помощи некоторой операции (возведение в квадрат модуля этого числа - правило Борна) позволяет вероятностно предсказывать феномены малых масштабов и экстремальных уровней энергии, откуда и пошло название. Эта амплитуда детерминистически изменяется согласно уравнению Шредингера и в процессе часто возникают необычные состояния под названием "суперпозиции".

sepremento 14.12.19 в 18:10

При этом, во время экспериментов кажется, будто суперпозиции бесследно исчезают. В отсутствие наблюдателя уравнение Шредингера, казалось бы, описывает всё, что можно узнать о динамике физических систем. Когда же наблюдатель присутствует, то этот ясный детерминизм заменяет вероятностное правило Борна. Как будто бы обычные законы физики внезапно перестают работать, как только мы начинаем "наблюдать". Джон Стюарт Белл так выразил идею происходящего:

sepremento 14.12.19 в 18:25

Кажется, будто теория в этой теории важны только "результаты измерений" и невозможно сказать что-либо о чём-либо ещё. Что именно определяет, будет ли некоторая физическая система "измерителем"? Ждала ли волновая функция миллиарды лет появления одноклеточных живых существ? Или чуть дольше -- появления более подходящей системы... с научной степенью?

sepremento 14.12.19 в 18:29

Все согласны, что странная смесь законов Шрёдингера и Борна соответствует опыту. Однако, вопрос точного влияния закона Борна и общего смысла происходящего породил хаос из различных взглядов на квантовую механику.

sepremento 14.12.19 в 18:30

Изначально, Копенгагенская школа -- Нильс Бор и другие создатели квантовой теории -- раскололась на несколько подходов к обсуждению результатов эксперимента и непонятного формализма, что их предсказывал. Некоторые воспринимали буквально понятия теории об "измерениях" и "наблюдениях" и предполагали, что сознание играет фундаментальную роль в законах физики и заставляет комплексные амплитуды "коллапсировать" в наблюдаемые результаты. Другие, под руководством Вернера Гейзенберга, предлагали идею, что физика говорит нам о состоянии наших знаний, а не о какой-то объективной реальности. Ещё одна Копенгагенская традиция, если говорить коротко, "заткнись и считай", предостерегала от любых метафизических спекуляций.

sepremento 14.12.19 в 18:37

Юдковский использует эту научную проблематику в качестве доказательной базы некоторых основных идей предыдущих цепочек: различий между картой и территорией, таинственными ответами, Байесианством и Бритвой Оккама. И коль скоро
ни он, ни я не физики, далее представлены некоторые внешние источники для читателей, желающие проверить представленные аргументы или узнать больше о физических примерах

sepremento 14.12.19 в 18:39

Книга "Математическая Вселенная" Макса Тегмарка описывает некоторые важные идеи философии и физики. Среди наиболее новых идей Тегмарка аргумент о существовании всех непротиворечивых математических структур, включая миры с законами физики и граничных условиями полностью отличными от наших. Миры Тегмарка отличаются от мультивселенных более популярных физических гипотез, таких как, например, миры в стохастических вечно растущих моделях Большого Взрыва или многомировой интерпретации квантовой физики Эверетта.

sepremento 14.12.19 в 18:46

Юдковский подробно обсуждает многомировые интерпретации в ответ на Копенгагенскую интерпретацию квантовой механики. Концепция множества миров стала очень популярна в последние десятилетия среди физиков, особенно космологов. Однако, многие физики продолжают отвергать её или сохранять агностический нейтралитет. За (большей частью) популярным объяснением этого спора предлагаю обратиться к книге "Квантовая механика и опыт" Альберта. Также, обратите внимание на "Измерения в квантовой теории" Стэнфордской Энциклопедии Философии, а также вводные материалы по концепции "множества миров" из той же серии в книгах "Формулирование относительных состояний Эверетта" и "Многомировая интерпретация".

sepremento 15.12.19 в 18:27

Книга "Думай как физик" Эпштейна прекрасно подходит для развития интуитивного понимания физики. Полезно напомнить, что можно понимать большую часть физики без обладания полными сведениями о природе (и размерах) физического мира, равно как можно понимать большую часть когнитивных наук без понимания природы субъективной осознанности.

sepremento 19.12.19 в 17:46

--

sepremento 19.12.19 в 17:46

В опросе англоговорящих профессиональных философов 56,5% придерживались идей физикализма, 27,1% -- антифизикализма, а 16,4% придерживались иных взглядов (в т.ч. вариант "я не знаю"). Большинство философов отвергает метафизическую возможность существования "зомби" по Чалмерсу, но до сих пор нет единого мнения относительно оснований для отвержения этого аргумента. В своей работе Кирк обобщает современные точки зрения относительно феномена сознания, предлагая аргументы напоминающие позиции Юдковского против возможности знать или ссылаться на несократимые квалии.

sepremento 19.12.19 в 17:52