Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Belief in the Implied Invisible

Не следует обобщать аргумент против зомби в виде: "Всё, чего не видно --- не существует".

sepremento 13.02.20 в 06:39

Выводить общие правила заманчиво. Аргумент против зомби стал бы гораздо проще в будущем, если мы могли бы воспользоваться такой посылкой. Однако, к сожалению, это просто не по-байесиански.

sepremento 13.02.20 в 06:40

Это очень заманчивое обобщение. В таком виде аргумент против зомби стал бы гораздо проще и применять его в будущем было бы легче. Однако, к сожалению, это не байесианский аргумент.

Alaric 19.09.20 в 10:22

Допустим, я пошлю фотон в бесконечность и не буду целиться ни в одну звезду, ни в одну галактику, а направлю в один из громадных промежутков между суперкластерами. Другими словами, с точки зрения стандартной физики, я не ожидаю, что фотон столкнётся с чем-то по пути. Фотон двигается со скоростью света и потому я не смогу его догнать и схватить вновь.

sepremento 13.02.20 в 06:43

Допустим, я пошлю фотон в бесконечность. При этом я не буду целиться ни в одну звезду, ни в одну галактику, а направлю его в один из громадных промежутков между сверхскоплениями галактик. Другими словами, исходя из знаний стандартной физики, я не ожидаю, что фотон столкнётся с чем-нибудь по пути. Фотон движется со скоростью света, и потому я не смогу его догнать и схватить вновь.

Alaric 19.09.20 в 10:24

Если, как утверждает современная космология, расширение Вселенной происходит с ускорением, то в некоторый момент времени в будущем я ожидаю, что у меня не будет даже принципиальной возможности взаимодействия с этим фотоном --- такой момент времени в будущем, за пределами которого, по моим ожиданиям, не будет пересечения светового конуса фотона с моей мировой линией. Даже если пришельцы поймали бы фотон и поспешили к нам рассказать об этом, они не смогли бы путешествовать достаточно быстро, чтобы преодолеть ускоряющееся расширение Вселенной.

sepremento 14.02.20 в 06:31

Следует ли мне верить, что фотон исчезнет в тот момент, когда я потеряю принципиальную возможность взаимодействовать с фотоном?

sepremento 14.02.20 в 06:32

Следует ли мне верить, что в тот миг, когда я потеряю даже принципиальную возможность взаимодействовать с фотоном, фотон исчезнет?

Alaric 22.09.20 в 18:33

Нет.

sepremento 14.02.20 в 06:32

Это нарушило бы закон сохранения энергии. И второй закон термодинамики. И почти любой другой закон физики. И, возможно, все три закона робототехники. Ведь тогда следовало бы, что фотон каким-то образом знает, что я о нём думаю и знает, когда именно исчезнуть.

sepremento 14.02.20 в 06:34

Это нарушило бы закон сохранения энергии. И второй закон термодинамики. И почти любой другой закон физики. И, возможно, все три закона робототехники. Ведь такое поведение означало бы, что фотон знает, что я о нём думаю, и знает, когда именно исчезнуть.

Alaric 22.09.20 в 18:35

Что за глупость.

niya3 27.09.20 в 09:02

Однако, если можно верить в существование фотонов, которые стало невозможно обнаружить в эксперименте, почему не придумать общую систему веры в невидимое?

sepremento 14.02.20 в 06:35

(Если хотите, подумайте над этим вопросом самостоятельно, перед тем, как продолжить чтение...)

sepremento 14.02.20 в 06:36

Хоть я и не смог нагуглить источник, но помню, что читал, будто когда впервые предложили считать Млечный Путь нашей галактикой --- туманную реку света в ночном небе, созданную из миллионов (или даже миллиардов) звёзд --- Бритву Оккама использовали против этой новой гипотезы. Потому что, видите ли, эта гипотеза значительно умножала количество "сущностей" в предполагаемом устройстве Вселенной. Возможно, Бритву Оккама использовали применительно к предложению, что "туманности" --- неясные пятна, которые видно в телескопе --- могли быть галактиками из множества звёзд.

sepremento 14.02.20 в 06:41

Lex parsimoniae: Entia non sunt multiplicanda praeter necessitatem.

sepremento 14.02.20 в 06:41

Это исходная формулировка Оккама, закон бережливости: Сущности не должно умножать сверх необходимого.

sepremento 14.02.20 в 06:42

Если постулировать миллиарды звёзд, в которые никто раньше не верил, то вы умножаете сущности, не так ли?

sepremento 14.02.20 в 06:43

Если постулировать миллиарды звёзд, в которые никто раньше не верил, то вы умножаете сущности, верно?

Alaric 22.09.20 в 18:46

Нет. Существует два вида байесианской формализации принципа Бритвы Оккама: индукция по Соломонову и принцип минимальной длины сообщения. Ни один из них не запрещает галактикам быть большими.

sepremento 14.02.20 в 06:45

И правильно делают! Один из уроков истории учит нас, что то-что-мы-зовём-реальностью продолжает расти всё больше и больше. Помните, как Земля была центром Вселенной? Помните время до изобретения числа Авогадро? Если бы принцип Бритвы Оккама использовали против умножения сущностей всякий раз, пришлось бы сомневаться в нём, ведь он систематически оказывался бы неверным.

sepremento 14.02.20 в 06:48

В индукции Соломонова сложность модели есть количество кода компьютерной программы, требуемой для симуляции этой модели. Количество кода, а не памяти и не количества циклов вычисления. Модель Вселенной, что содержит миллиарды галактик с миллиардами звёзд, что состоят из миллиардов триллионов дециллионов кварков потребует огромного количества памяти для исполнения --- но код должен лишь описать поведение кварков, а звёзды и галактики могут быть предоставлены самим себе. Я здесь пишу полу-метафорически --- существуют и иные элементы Вселенной помимо кварков --- но суть в том, что дополнительные миллиарды галактик не учитываются в размере кода, если вы описали хотя бы одну. Вам потребуется лишь чуть больше памяти, а Бритве Оккама плевать на память.

sepremento 14.02.20 в 06:53

В индукции Соломонова сложность модели --- это количество кода компьютерной программы, требуемой для симуляции этой модели. Количество кода, а не памяти или времени, требуемых на вычисления. Модель Вселенной, что содержит миллиарды галактик с миллиардами звёзд, что состоят из миллиардов триллионов дециллионов кварков потребует огромного количества памяти для исполнения. Однако код должен лишь описать поведение кварков, а звёзды и галактики смогут запуститься самостоятельно. Я здесь пишу полу-метафорически --- существуют и иные элементы Вселенной помимо кварков --- но суть в том, что дополнительные миллиарды галактик не учитываются в размере кода, если вы описали хотя бы одну. Вам потребуется лишь чуть больше памяти, а бритве Оккама плевать на память.

Alaric 22.09.20 в 18:55

Почему? Формализм принципа минимальной длины сообщения, который близок к индукции Соломонова, привносит некоторую ясность: если необходимо сообщить кому-либо, как устроена ваша модель Вселенной, необязательно уточнять положение каждого кварка в каждой звезде каждой галактики. Нужно лишь написать несколько уравнений. Количество "штуковин", которые будут подчиняться этим уравнениям не влияет на время, требуемое для их записи. И если записать уравнения в файл, а размер окажется 100 бит, то возможны 2^100 других моделей примерно такого же размера файла, а вам потребуется примерно 100 бит подкрепляющих свидетельств. У вас получилось ограниченное количество вероятностной массы и априори вы обязаны разделить эту массу среди всех сообщений, которые возможно послать. Таким образом, указав на модель из пространства в 2^100 альтернатив, вы вынуждены взять на себя штраф в 2^-100 в априорной вероятности --- но наличие дополнительных галактик не влияет на это число.

sepremento 15.02.20 в 06:40

Почему? Возможно, вам поможет это понять принцип минимальной длины описания, который практически эквивалентен индукции Соломонова. Если нужно сообщить кому-то, как устроена ваша модель Вселенной, необязательно уточнять местоположение каждого кварка в каждой звезде каждой галактики. Достаточно написать несколько уравнений. Количество объектов, которые подчиняются этим уравнениям, никак не влияет на время, необходимое, чтобы записать эти уравнения. Если записать уравнения в файл и файл окажется длиной в 100 бит, то возможны 2^100 других моделей, которые можно записать в файл примерно такой же длины и вам необходимо примерно 100 бит подкрепляющих свидетельств. У вас получилось ограниченное количество вероятностной массы и априори вы обязаны разделить эту массу среди всех сообщений, которые возможно послать. Таким образом, указав на модель из пространства в 2^100 альтернатив, вы вынуждены взять на себя штраф в 2^-100 в априорной вероятности. Однако дополнительные галактики не меняют размер этого штрафа.

Alaric 26.09.20 в 09:36

Заявление о миллиардах звёзд в миллиардах галактик не влияет на длину сообщения, которым описывается общее поведение этих галактик. И потому вы не получаете вероятностный ущерб, если ваши уравнения описывают большое количество вещей. (До тех пор, пока успешность предсказаний вашей модели нечувствительна к начальным условиям. Если для сохранения точности предсказаний потребуется указать конкретные положения всех кварков, то каждый дополнительный кварк нанесёт вероятностный ущерб.)

sepremento 15.02.20 в 06:43

Если вы предполагаете, что фотон исчезает, когда вы на него не смотрите, возникает дополнительный закон в вашей модели Вселенной. Эти законы и есть те "сущности", которые имеют цену в законе бережливости. Дополнительные кварки бесплатны.

sepremento 15.02.20 в 06:45

Если вы предполагаете, что фотон исчезает, когда вы на него больше не смотрите, в вашей модели Вселенной возникает дополнительный закон. Именно такие законы - это "сущности", за которые нужно платить согласно закону бережливости. А дополнительные кварки бесплатны.

Alaric 26.09.20 в 09:44

Итак, сводится ли всё к высказыванию: "Я верю, что фотон продолжает существовать, даже если он улетел в бесконечность, потому что мои априорные знания указывают, что ситуация будет проще, если он продолжит существовать, а не исчезнет"?

sepremento 15.02.20 в 06:47

Так я подумал вначале, но после размышления я считаю, что это не совсем верно. (И не только потому, что так открывается путь к очевидным злоупотреблениям)

sepremento 15.02.20 в 06:47

Я бы свёл ситуацию к различию между убеждением в подразумеваемой невидимости и убеждением в дополнительной невидимости.

sepremento 15.02.20 в 06:49

Если вы убеждены, что фотон продолжает существовать по мере удаления в бесконечность, то вы не считаете это убеждение за дополнительный факт.

sepremento 15.02.20 в 06:49

Вы верите (и назначаете вероятности) в набор простых уравнений и считаете, что они описывают Вселенную. Вы верите этим уравнениям потому, что они являются простейшими из тех, которые вы смогли найти и которые описывают все наблюдаемые свидетельства. Эти уравнения могут быть проверены в эксперименте. Они объясняют огромные массивы свидетельств в прошлом и предсказывают результаты наблюдений в будущем.

sepremento 15.02.20 в 06:52

Вы верите (присваиваете какую-то вероятность) в набор простых уравнений. Вы считаете, что эти уравнения описывают Вселенную. Вы верите в эти уравнения, потому что это самые простые уравнения, описывающие Вселенную, которые вы смогли найти. Эти уравнения можно проверить экспериментально. Они объясняют огромные массивы свидетельств в прошлом и предсказывают результаты наблюдений в будущем.

Alaric 26.09.20 в 09:51

Вы верите этим уравнениям и логическим следствием этих уравнений является существование фотона по мере удаления в бесконечность, так что вы верите и в это.

sepremento 15.02.20 в 06:53

Ваши априорные знания и даже ваши вероятности не упоминают фотон напрямую. Вы назначаете вероятности не фотону, а общим законам. Когда вы присваиваете вероятности законам физики известным на данный момент, вы автоматически назначаете ту же самую вероятность существованию фотона по мере удаления в бесконечность --- если вы верите в логические последствия ваших убеждений.

sepremento 15.02.20 в 06:55

Ваши априорные знания и даже ваши вероятности не упоминают фотон напрямую. Вы присваиваете вероятности не существованию фотона, а истинности общих законов. Когда вы присваиваете вероятности истинности законов физики, известным на данный момент, вы автоматически присваиваете ту же самую вероятность тому, что фотон не исчезнет по мере удаления в бесконечность. Если, конечно, вы верите в логические последствия ваших убеждений.

Alaric 26.09.20 в 09:54

Вы не верите в невидимое, как таковое, используя суждение о невидимых вещах. Вместо этого, экспериментальные свидетельства предлагают некоторые законы, а вера в эти законы логически подразумевает существование некоторых сущностей, с которыми невозможно взаимодействовать. Это убеждение в подразумеваемой невидимости.

sepremento 15.02.20 в 06:57

С другой стороны, если вы убеждены, что Летающий Макаронный Монстр съест этот фотон --- возможно, только в одном конкретном случае --- или даже если вы убеждены без причины, что фотон столкнётся с пылинкой --- тогда ваше убеждение будет касаться дополнительного невидимого события. Если бы вы думали, что такие события происходят постоянно, вы были бы убеждены в некотором конкретном дополнительном невидимом законе. Это убеждение в дополнительной невидимости.

sepremento 16.02.20 в 06:57

Чтобы понять, зачем иногда нужно думать о подразумеваемой невидимости, предположим, что вы собираетесь отправить космический корабль в далёкое скопление галактик со скоростью, близкой к скорости света. К тому моменту, когда корабль доберётся до места и образует колонию, Вселенная будет расширяться с такой скоростью, что он уже не сможет послать сообщение домой. Считаете ли вы такой исключительно альтруистичный проект основания колонии ради всех людей, которые будут там счастливо жить достойным усилий? Или вы считаете, что космический корабль исчезнет ещё до прибытия на место? Такой вопрос может стать весьма насущным в будущем.

sepremento 16.02.20 в 07:02

Ситуация стала бы намного проще, вероятно, если мы могли бы исключать из реальности те сущности, с которыми мы не можем взаимодействовать раз и навсегда --- если бы Вселенная переставала существовать на пределах измерений наших телескопов. Но такое условие требует от нас быть очень глупыми.

sepremento 16.02.20 в 07:04

Да, вероятно, всё было бы гораздо проще, если бы мы могли исключать из реальности всё, с чем мы не можем взаимодействовать. Если бы Вселенная переставала существовать за пределами, доступными нашим телескопам. Но для этого нам нужно быть очень глупыми.

Alaric 26.09.20 в 10:25

А вот заявление, что нет нужды в дополнительных убеждениях относительно невидимых вещей --- что вы верите только в те невидимые явления, которые являются логическими следствиями общих проверяемых законов и, даже в этом случае, не выдумываете себе дополнительных убеждений, которые не являются логичными следствиями таких законов --- кажется, помогает исключить все злоупотребления верой в невидимое, если применяется правильно.

sepremento 16.02.20 в 07:07

Возможно, мне стоит говорить "вам надлежит назначать неизменные априорные вероятности дополнительным невидимкам" вместо "не верьте в них". Но если считать убеждением нечто очевидно постороннее, что-то такое, что нужно отслеживать, где нужно считать аргументы за и против, тогда возникает вопрос, стоит ли вообще иметь какие-то дополнительные убеждения о дополнительных невидимках.

sepremento 16.02.20 в 07:10

Существуют экзотические примеры, которые ломают теорию. (Например: Эпифеноменальные демоны следят за тобой и если ты произнесешь когда-либо слово "Ниблик", то они будут пытать 3↑↑↑3 невинных жертв в течение года в каком-то месте, о котором ты никогда не узнаешь.) Но я не могу придумать пример, где теория подводила бы в повседневной практике.

sepremento 16.02.20 в 07:12