Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (14) (lesswrong.ru) Байесианское_дзюдо

Тут и далее перевод: BT
Вы можете получить массу удовольствия, общаясь с людьми, чьи ожидания будущего теряют связь с их же верой в убеждениях.

Muyyd 01.11.15 в 08:12

Как-то на одном званом обеде я пытался объяснить человеку, чем я зарабатываю на жизнь; и он сказал: «Я не верю в возможность Искусственного Интеллекта, ведь лишь Бог может создать душу.»

Muyyd 01.11.15 в 08:13

Я, должно быть, движимый божественным наитием, немедленно ответил:
— То есть, если я смогу создать искусственный интеллект, то это докажет ложность вашей религии?

Muyyd 01.11.15 в 08:13

— Что? — сказал он.

Muyyd 01.11.15 в 08:13

— Ну, если ваша религия предсказывает, что я неспособен создать искусственный интеллект, то факт создания мной искусственного интеллекта будет означать неправоту вашей религии. Либо ваша религия допускает возможность создания ИИ, либо его создание опровергнет вашу религию.

Muyyd 01.11.15 в 08:13

Повисла пауза — он осознал, что только что сделал свою гипотезу фальсифицируемой — и затем он ответил:
— Ну, я не имел ввиду, что вы не сможете создать интеллект. Я хотел сказать, что он не может испытывать эмоции таким же образом, что и мы.

Muyyd 01.11.15 в 08:13

— Итак, если я создам искусственный интеллект, в который не будет заложено ничего навроде заранее написанного сценария, и моё творение начнёт говорить о чём-то, похожем на нашу духовную жизнь, то тогда ваша религия неверна.

Muyyd 01.11.15 в 08:14

— Ну, гм, видимо нам придётся остаться при своих мнениях на этот счёт. «Согласиться не соглашаться» — в таких случаях говорят англичане.

Muyyd 01.11.15 в 08:14

— На самом деле, так нельзя. Есть теорема из области рациональности — теорема Ауманна о согласии — которая говорит о том, что два рационалиста не могут согласиться не соглашаться. Если два человека не соглашаются друг с другом, то хотя бы один из них должен быть в чем-то неправ.

Muyyd 01.11.15 в 08:14

Мы коротко прошлись по этой теме. И, наконец, он сказал:
— Ну, кажется, на самом деле я пытался сказать вот что: я считаю, что вы не можете создать что-то вечное.

Muyyd 01.11.15 в 08:14

— Ну, я тоже так считаю!— ответил я. — Я рад, что мы смогли прийти к консенсусу по этому вопросу, как и требует теорема Ауманна о согласии. Я протянул свою руку и он пожал ее, а потом побрёл дальше.

Muyyd 01.11.15 в 08:14

Женщина, которая стояла рядом и слушала наш разговор, серьёзно посмотрев на меня, сказала: «Это было прекрасно».

Muyyd 01.11.15 в 08:15

— Большое спасибо, — ответил я.

Muyyd 01.11.15 в 08:15