Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: Разумы: введение

Ты есть разум и это ставит тебя в весьма затруднительное положение.

bartolomay 10.08.16 в 14:29

Совсем немного вещей становятся разумами. Ты являешься тем странным куском материи во вселенной, которая способна на предсказания и планирование, оценку и исправление убеждений, страдания, мечты, может замечать божьих коровок или почувствовать неожиданную тягу к манго. Ты даже можешь сформировать картину всего разума внутри его самого. Ты можешь размышлять о самом процессе своего мышления и работать над приведением его процессов в согласие со своими целями.

bartolomay 10.08.16 в 14:48

Ты есть разум, реализованный в человеческом мозге. И оказывается, что человеческий мозг, при всей своей изумительной гибкости, подчиняется шаблонам и рутине. Твой разум может следовать раз заведенному порядку всю жизнь, без осознания что он так поступает. И подобные шаблоны могут иметь серьезные последствия.

bartolomay 10.08.16 в 14:58

Когда ментальный шаблон служит хорошую службу мы называем это "рациональностью". Ты существуешь как есть, запрограммированный на проявление определенных типов рациональности и иррациональности в силу своего происхождения. Ты, как и вся жизнь на Земле, потомок древних самовоспроизводящихся молекул. Этот процесс воспроизведения первоначально был неуклюж и случаен и быстро привел к воспроизводимым различиям между репликаторами. "Эволюция" - так мы называем изменения в этих различиях с течением времени.

bartolomay 10.08.16 в 16:19

Поскольку некоторые из этих воспроизводимых различий влияют на воспроизводимость - феномен, называемый "отбором" - в результате эволюции появляются организмы, приспособленные к размножению в среде, похожей на среду их предков. Все что тебя касается построено на отголоске страданий и побед твоих предков.

bartolomay 10.08.16 в 16:28

Что мы имеем в итоге: разум, вываянный из более слабых разумов, ищущий понимания своей собственной внутренней работы, которую он мог бы усовершенствовать - относительно своих целей, а не целей своего создателя, эволюции. Какие полезные правила и догадки мы могли бы извлечь из понимания, что это наша базовая ситуация?

bartolomay 10.08.16 в 16:57

Призраки и Машины

bartolomay 10.08.16 в 16:57

Наш мозг, в своей ограниченной структуре и динамике, похож на многие другие механические системы. Все же мы редко думаем о наших разумах в тех же терминах, в которых мы рассуждаем об окружающих нас объектах или органах нашего тела. Наши базовые ментальные категории - убеждение, решение, слово, идея, чувство и т.д. - обладают слабым подобием наших физических категорий.

bartolomay 10.08.16 в 17:02

Философы прошлого, наблюдая это, развивали эти идеи, утверждая, что разум и мозг различные и раздельные явления. Этот взгляд философ Гилберт Райл назвал "догма о Призраке в Машине". Но современные ученые и философы, отрицающие дуализм, не обязательно заменяют его лучшей предсказательной моделью того как работает разум. Говоря практически, наши цели и желания все еще действуют как свободно парящие призраки, отрезанные от всей остальной части наших научных знаний. Мы можем говорить о "рациональности" и "заблуждениях" и "как изменить наш разум", но если эти идеи все еще неопределенны и свободны от любой всеобъемлющей теории, наш научно звучащий язык не защитит нас от совершения тех же самых ошибок, которые совершают те, чьи теоретические постулаты включают духов и сущности.

bartolomay 10.08.16 в 17:35

Примечательно, что тайна и мистификация, окружающая разум, не просто замутняет наш взгляд на человека. Это также отражается на системах, выглядящих подобно разуму или умышленных в эволюционной биологии и искусственном интеллекте (ИИ). Пожалуй, если мы не можем легко определить кто мы такие при взгляде на себя, мы можем научиться больше используя явно нечеловеческие процессы как зеркало.

bartolomay 10.08.16 в 17:45

Существует множество призраков у которых можно поучиться - призраки прошлого и настоящего и те, что еще впереди. И эти иллюзии являются реальными познавательными объектами, реальными явлениями, которые мы можем изучать и объяснять. Если и существует призрак в машине, его появление само по себе является скрытой работой машины.

bartolomay 10.08.16 в 17:51

Первая цепочка "Машины в Призраке", "Простая Математика Эволюции", нацелена на выражение диссонанса и расхождения между нашей наследственной историей, нашей современной биологией и нашими высшими стремлениями.

bartolomay 10.08.16 в 17:56

Это потребует более глубокого погружения, нежели обычно принято во введениях в эволюцию для не биологов, которые часто ограничивают свое внимание на поверхностных чертах естественного отбора.

bartolomay 10.08.16 в 17:59

Третья цепочка, "Человеческий гайд по словам", обсуждает базовые отношения между познанием и формированием концепций. За этим следует длинное эссе, представляющее концепцию Байесианских выводов.

bartolomay 10.08.16 в 18:05

Наводя мосты между этими темами, "Хрупкие цели" абстрагируются от человеческого познания и эволюции к идее разумов и целенаправленных систем в самом общем смысле. Эти эссе служат вторичной цели объяснения общего подхода автора к философии и науке рациональности, на который сильно повлияла его работа над ИИ.

bartolomay 10.08.16 в 18:49

Реконструкция интеллекта

bartolomay 10.08.16 в 18:49

Знание создания может многое сказать о создателе, а знание создателя может многое сказать о создании.

bartolomay 11.08.16 в 10:51

Так что начнем мы с того, что наш создатель может сказать о нас самих.

bartolomay 11.08.16 в 10:53