Rationality: From AI to Zombies, Book 5 / Рациональность: От ИИ до Зомби, Том 5: V. Value Theory. 265. My Kind of Reflection

В эссе "где заканчивается рекурсия обоснований" я пришёл к заключению, что можно использовать индукцию, чтобы судить о вероятности того, что индукция будет работать в будущем, при условии, что она работала в прошлом. Или использовать Бритву Оккама, чтобы заключить, что самое простое объяснение работы Бритвы Оккама в том, что сама Вселенная фундаментально проста.

sepremento 13.10.20 в 06:03

Я далеко не самый первый человек, который размышляет о применении принципов суждения к рефлексии. Крис Хибберт сравнил моё представление с пан-критическим рационализмом Бартли (я ещё гадал, произойдёт ли это). Поэтому мне кажется важным определить, что именно я вижу в качестве отличительных черт моего представления о рефлексии и как это может отличаться от представлений о рефлексии других философов.

sepremento 13.10.20 в 06:06

Моя философия исходит из попыток понять, как создать ИИ, который будет применять свои принципы суждения к самому себе в процессе переписывания собственного кода. Поэтому, когда я говорю об использовании индукции, чтобы оправдать индукцию, то на самом деле я думаю об ИИ, рассуждающем по индукции, который размышляет, стоит ли ему переписать ту часть себя, которая осуществляет индукцию. Если вам бы не хотелось, чтобы ИИ переписал свой исходный код таким образом, чтобы не использовать индукцию, то лучше бы в вашей философии не определять индукцию как необоснованную.

sepremento 14.10.20 в 04:45

Один из наиболее сильных принципов ИИ, который мне известен, гласит, что истинный Путь обыкновенно оказывается натуралистичным. В отношении рефлексивного суждения это означает относиться к транзисторам внутри ИИ также, как если бы они существовали в окружающей среде, а не как к особому случаю. Отсюда, на самом деле, происходит моя настойчивость в эссе "Где заканчивается рекурсия обоснований" в части, что вопросы "Насколько хорошо работает моя версия Бритвы Оккама?" должны рассматриваться как обычный вопрос или, по крайней мере, как обычный глубокий вопрос. Я сильно подозреваю, что правильно выстроенный ИИ в своих рассуждениях об изменении той части своего исходного кода, которая реализует суждение согласно Бритве Оккама, не станет делать ничего особенного в процессе рассуждения, в частности, он не должен делать особых усилий, чтобы избегать Бритвы Оккама.

sepremento 14.10.20 в 04:52

Я не считаю, что "рефлексивную последовательность" или "рефлексивную согласованность" следует считать желаемой саму по себе. Как я указывал в "Двенадцати добродетелях" и "Просто истине", если построить пять точных карт одного и того же города, тогда карты необходимо будут согласованы друг с другом. Однако, если нарисовать одну карту из головы, а затем сделать четыре копии, то они будут согласованы, но не точны. Аналогично, никто осознанно не стремится к рефлексивной последовательности и она сама по себе не является гарантией надежности. Цель --- побеждать. Но любой, кто стремится побеждать, используя своё понимание победы и редактируя свой собственный исходный код, окажется в конце концов рефлексивно согласованным. Точно также, любой, кто постоянно стремится улучшать свою карту мира обнаружит, что её части постепенно становятся всё более согласованными друг с другом. Если надеть свои "ИИ очки", тогда можно увидеть, что ИИ, который переписывает свой собственный исходный код, не пытается сделать себя "рефлексивно последовательным", но пытается оптимизировать ожидаемую полезность своего исходного кода и так получается, что это происходит, используя ожидания последствий его собственного разума.

sepremento 14.10.20 в 05:02

Одним из способов, которым я оправдываю использование индукции и Бритвы Оккама для размышлений об "индукции" и "Бритве Оккама", является отсылка к принципу Э. Т. Джейнса, что мы обязаны в вычислениях всегда использовать всю доступную нам информацию (пока позволяют вычислительные мощности). Если вам кажется, что индукция работает, тогда нужно использовать её, чтобы использовать свою максимальную мощность даже в тех случаях, когда вы думаете об индукции.

sepremento 14.10.20 в 05:05

Я считаю, что в общем случае полезно делать различия между защитной позицией, когда вы представляете, как будете оборонять свою позицию перед философом, который задаёт много вопросов, от агрессивной позиции, когда вы пытаетесь подобраться как можно ближе к правде. Поэтому относиться к недоверием к Бритве Оккама и использовать свой разум и интеллект, чтобы изучить её --- не значит занять оборонительную позицию. Это значит, что причина исследования Бритвы Оккама --- увидеть, как можно лучше применить её на практике или беспокойство, что она и правда неверна. Я стараюсь отбрасывать сомнения, которые вызваны всего лишь обязанностью сомневаться.

sepremento 15.10.20 в 05:38

Если вы носитесь кругами и исследуете свои фундаментальные убеждения, то я ожидаю, что вы это делаете не из чувства долга и действительно их улучшите. Наши мозги устроены таким образом, чтобы по-особому оценивать "простоту", что приводит к ощущению, будто Тор звучит проще, чем уравнения Максвелла в качестве объяснения молнии. Но, получше рассмотрев, как именно работает Вселенная, мы пришли к заключению, что дифференциальные уравнения (которые знают немногие люди) на самом деле проще (в контексте теории информации), чем герои мифов (как объясняют Вселенную во многих племенах). И из-за этого, мы попытались внедрить концепцию бритвы Оккама в математику.

sepremento 15.10.20 в 05:44

С другой стороны, даже улучшенные фундаментальные убеждения должны сходиться к нормальности. 2 + 2 всё ещё должно давать 4, а не что-то новое и удивительное типа "рыба".

sepremento 15.10.20 в 05:46

Я считаю очень важным делать различия между вопросами "почему работает индукция?" и "работает ли индукция?". На данный момент причина, почему Вселенная сама по себе упорядочена, всё ещё является загадочным вопросом. Нам временно могут быть необходимы странные спекуляции. Но с другой стороны, если начать утверждать, что Вселенная на самом деле не упорядочена, то ответом на вопрос "Работает ли индукция?" является "Нет!", то вы входите на территорию, где 2 + 2 = 3. И получается, что вы прикладываете слишком много усилий, чтобы ваша философия оказалась интересной, а не правильной. ИИ, который рассуждает по индукции и пытается определить, какие вероятности назначить в следующем цикле, задаётся вопросом "Работает ли индукция?", и на этот вопрос он может ответить с использованием мышления по индукции. Если задавать вопрос "Почему работает индукция?", тогда ответ "Потому что индукция работает" это циркулярная логика, а ответ "Потому что я убеждён, что индукция работает" --- магическое мышление.

sepremento 15.10.20 в 05:52

Я не считаю, что пройти в цикле оправданий через мета-уровень --- то же самое, что и циркулярная логика. Я считаю, что концепция "циркулярной логики" применима к объектному уровню и правда является чем-то плохим и запретным на объектном уровне. Запрещать согласованность в рефлексии кажется плохой идеей. Но я пока не занимался формализацией точных различий --- моя теория рефлексии это продолжающийся проект, а не что-то, что у меня уже есть.

sepremento 15.10.20 в 05:55