Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: That Alien Message

Представьте себе мир, точь-в-точь как наш, только благодаря технологиям генной инженерии средний IQ равен 140 (по нашей шкале). Потенциальные Эйнштейны встречаются один раз из тысячи, а не один из миллиона. И воспитывают их в особой школьной системе, по крайней мере, в школах для одарённых детей. Математический анализ преподают в шестом классе. Сам Альберт Эйнштейн жил и сделал примерно те же самые открытия, однако его работа более не кажется чем-то особенным. Несколько современных физиков сделали столь же великие открытия и с ними все ещё можно поговорить.

(Нет, Бреннан живёт не в этом мире.)

В один из дней звёзды на небе начинают меняться.

Какие-то из них становятся ярче, какие-то, наоборот, тускнеют. Большинство остаются неизменными. Телескопы астрономов ловят все перемены, мгновение за мгновением. Те звёзды, которые меняются, меняют свою светимость по одной за раз. Изменение светимости происходит за микросекунду, но каждые два момента перемен разделяет целая секунда.

С первого же мгновения, как становится понятно, что меняется более чем одна звезда, кажется, что процесс происходит чётко вокруг Земли. Свет от разных источников, от звёзд из разных частей галактики, достигает орбиты Земли точно вовремя. Вскоре приходят подтверждения от телескопов с высоких орбит (у них такие есть), что вне Земли эти астрономические чудеса не кажутся настолько синхронизированными. Только Земные телескопы ловят перемену одной звезды в секунду (точнее 1005 миллисекунд).

Практически все интеллектуальные способности человечества обращаются к анализу.

Быстро становится ясно, что у звёзд, у которых светимость увеличивается, она увеличивается ровно в 256 раз, а у тех звёзд, у которых светимость уменьшается, она уменьшается ровно в 256 раз. Невозможно обнаружить паттерн в координатах звёзд. А это оставляет лишь паттерн яркий-тусклый-яркий-яркий...

"Двоичный код!" - первая мысль каждого.

Однако в этом мире есть люди, который способны размышлять осторожно и которые пользуются большим уважением. Они сомневаются. "Существуют гораздо более простые способы послать сообщение," --- пишут они в своих блогах, --- "если вы способны заставить звёзды мерцать и хотите пообщаться. Происходит что-то ещё. И на первый взгляд кажется, что это направлено конкретно на Землю. Назвать это 'сообщением' --- значит сделать больше допущений о стоящей за процессом причине, чем необходимо. Среди тех явлений, которые могут заставлять звёзды мерцать, может находиться некий эволюционный процесс, который каким-то образом чувствителен к разуму... Да, вероятно, за этим стоит некое подобие 'интеллекта', но лишь представьте какое многообразие возможностей подразумевается. Мы не знаем, что это действительно сообщение или что оно было послано из тех же побуждений, которые побуждают нас. Мы бы использовали огромный фонарик, мы не стали бы возиться с целой галактикой"

К этому моменту некоторые люди уже стали объединять астрономические данные и выкладывать их в Интернет. Предположения, что данные могут быть опасны... не были проигнорированы, но им и не последовали. Если нечто столь могущественное желает тебе навредить, то ты уже по сути мёртв (рассудили люди).

Множество исследовательских групп ищут паттерны в звёздных координатах, или во времени достижения сигналом Земли относительно её центра, или в продолжительности сдвига по светимости, или в малейшей дисперсии величины эффекта, да и в любых других фактах, которые можно было знать о звёздах до того, как они изменились. Однако, большинство людей изучали паттерны яркости и тусклости.

Почти сразу же становится очевидно, что передаваемая последовательность исключительно избыточна. Из первых 16 бит --- 12 ярких и 4 тусклых. Первые 32 бита почти полностью совпадают со следующими 32 битами и лишь только 7 из них отличаются. Следующие 32 бита отличаются от предыдущих на 9 бит (и 4 из них уже менялись раньше). Из первых 96 бит становится ясно, что это не сжатое оптимально сообщение. Напрашивается мысль, что последовательность предназначена для передачи инструкций, чтобы разархивировать последующее сжатое сообщение...

"Однако," --- возражают осторожные мыслители, --- "любой, кого заботит эффективность и у кого есть достаточно власти, чтобы управлять звёздами, мог бы послать нам сигнал с помощью огромного фонарика или послать DVD, не так ли?"

Также, кажется, что внутри групп по 32 бита есть структура и некоторые подгруппы из 8 бит встречаются с большей частотой, чем другие и эта структура появляется лишь вдоль естественных сочетаний (32 = 8 + 8 + 8 + 8).

После первых пяти часов и одном бите в секунду, становится очевидной ещё одна избыточность: сообщение стало приблизительно повторяться после 16385 бит.

При разбиении сообщения на группы по 32 бита, обнаружилась разница в 7 бит между 1-ой группой и 2-ой и 6 бит разницы между 1-ой группой и 513-ой.

"2D изображение!" --- подумал каждый. "А восьмибитные группы это цвета, они тетрахроматы!"

Но вскоре становится ясно, что в сообщении есть горизонтальная/вертикальная асимметрия: меньше бит меняется, в среднем, между (N,N+1) чем между (N,N+512). А это неожиданно, если двумерное изображение проецируется на симметричную сетку. В таком случае ожидаемо, чтобы среднее расстояние между группами по 32 бита соответствовало квадратичной норме сетки: h^2 + v^2. Формируется консенсус, что некоторое бинарное кодирование ... Эта идея подтверждается последующими битами. Статистики, криптографы, физики и ... приступают к работе. Структура в сообщении есть, её лишь нужно понять. Мастера в причинно-следственных связях ищут условную независимость, [screening-off] и Марковских соседей среди бит и групп бит. То, что назвали "цветом", кажется, играет большую роль в соседях и [screening], а значит это не просто эквивалент отражающих свойств поверхностей. Люди ищут простые уравнения, простые клеточные автоматы, простые деревья решений, которые могли бы предсказать или как-то сжать сообщение. Физики изобретают целые теории всей физики, которые могли бы описать вселенные, спроецированные на сетку --- поскольку кажется довольно правдоподобным, что такое сообщение могло быть послано извне Матрицы.

После получения 32 × 512 × 256 = 4,194,304 бит, через примерно полтора месяца, звёзды перестают мигать.

Работа теоретиков продолжается. Физики и криптографы засучивают рукава и приступают к делу всерьёз. Они уже взламывали задачи с гораздо меньшим количеством данных. Физики уже выстраивали огромные теоретические структуры из небольших различий в массах частиц. Криптографы распаковывали гораздо более короткие сообщения, которые намеренно усложняли.

Проходят годы.

В академическом сообществе, под пристальным наблюдением публики и тех учёных, которые однажды реализовывали работу того же типа, что и Эйнштейн, остаются две модели. Первая предполагает, что сетка --- это проекция объектов 5-мерного пространства с симметрией между 3 и 2 пространственными измерениями. Вторая теория говорит, что сетка кодирует клеточный автомат. Кажется, у неё есть несколько удачных свойств для этого. Был написан код, который выдавал интересное поведение, однако до сих пор, запуск соответствующих клеточных автоматов на самых мощных компьютерах не дал каких-либо результатов, которые можно было бы расшифровать. Работа продолжается.

Время от времени кто-нибудь набирает группу особенно одарённых студентов, которые никогда не видели полной бинарной последовательности. Этим студентам показывают первые 32 ряда (по 512 столбцов в каждом), чтобы те сформировали новые модели, а затем смотрят, как эти новые модели предсказывают следующие 224 ряда. Студенты воспроизводили и 3+2-мерную модель и модель клеточного автомата, им ещё предстоит сделать что-то лучше. Существуют также сложные модели, которые прекрасно укладываются в полную последовательность --- но эти модели, вероятно, бесполезны.

Проходит 10 лет и звёзды начинают мигать вновь.

После первых 128 бит становится очевидно, что Вторая Сеть может соответствовать небольшим движениям в 3+2-мерном пространстве, но не походит на следующее поколение любой из теорий клеточных автоматов. Следует бурное ликование и учёные удаляются выяснять, какой вид физики может управлять объектами в 3+2-мерном пространстве. В этом направлении уже проделана большая работа, всего лишь через спекуляции о том, какой вид сил мог вызвать объекты в Первой Сети, если бы эти объекты были статичными. Теперь же кажется, что не все такие объекты статичны. Как и считало большинство физиков --- статически сбалансированные теории казались надуманными.

Для описания динамических объектов в 3+2-мерном пространстве, которые отображаются на Первую и Вторую Сетки, были сформулированы многие красивые уравнения. Некоторые уравнения более элегантны, чем остальные. Некоторые особенно точно предсказывают (увы, в ретроспективе) Вторую Сетку. Группа выдающихся физиков, которые тщательно изолировались для работы и рассматривали только первые 32 строки Второй Сетки, произвела систему элегантных уравнений и эти уравнения хорошо предсказали последующие 224 строки. Эта система становится основной догадкой.

Однако эти уравнения недоопределены. Кажется, будто их недостаточно, чтобы описать вселенную. Появляется небольшая отрасль, которая пытается угадать, какой тип законов может завершить систему.

Когда появляется Третья Сетка через десять лет после Второй Сетки, то в ней содержится информация о вторых производных, а это приводит к значительным изменениям и "неполной, но неплохой" теории. Впрочем теория показала себя неплохо, с учётом всех факторов.

Четвертая Сетка добавляет не слишком много новой информации. Третьи производные не кажутся важными для 3+2 физики, которую изучили из Сеток.

Пятая Сетка выглядит почти ровно так, как она должна выглядеть.

И Шестая, и Седьмая.

(О, и каждый раз, когда кто-либо пытается построить мощный ИИ в этом мире, компьютерное железо мгновенно тает. Это не особенно важно для повествования, но мне необходимо постулировать это, чтобы объяснить, почему это в течение 70 лет люди ходят во плоти)

Какая же здесь мораль?

Что даже Эйнштейн не вырвался на миллион световых лет в плане эффективного использования данных.

Риман изобрёл свои геометрии до того, как Эйнштейн ими воспользовался. Физика нашей вселенной не так уж сложна в абсолютном смысле. Байесианский сверхинтеллект, который подключен к вебкамере, предложил бы гипотезу общей теории относительности к третьему кадру с падающим яблоком. Возможно, это была бы не основная гипотеза, по сравнению с Ньютоновской механикой, но тем не менее, она бы находилась на рассмотрении. Возможно, что он угадал бы и с первого кадра, если бы рассмотрел статику согнутой травинки.

Мы бы о таком подумали, наша цивилизация. Особенно, если нам дать десять лет на анализ каждого кадра. Совершенно точно подумали бы, если средний IQ 140 и Эйнштейны повсеместно распространены.

Даже если у нас человеческий интеллект, но другой тип физики --- наш разум никогда бы не встречал проекцию трёхмерного пространства на двумерную сетку --- мы всё равно бы подумали о гипотезе преобразования из 3D в 2D. Наши математики изобрели бы векторные пространства и проекции.

Даже если бы человечество ни разу не видело ускоряющегося бильярдного шара, наши математики всё равно изобрели бы математический анализ (например, для решения задач оптимизации).

Да чтоб его, подумайте о сумасшедшей математике, которую у нас на Земле придумали.

Иногда я сталкиваюсь с людьми, которые говорят что-то вроде: "Есть теоретический предел тому, сколько знаний можно извлечь о внешнем мире из конечного объема чувственных данных."

Да. Есть. Теоретический предел состоит в том, что каждый дополнительный бит информации может сократить пространство оставшихся гипотез не более чем на половину (точнее, половину оставшейся вероятностной массы). И в том, что избыточное сообщение не способно передать больше информации, чем его сжатая версия. Кроме того, бит информации не способен передать информацию о значении, с которым у него ровно нулевая корреляция на протяжении всех вообразимых возможных миров.

Но описанная выше цивилизация даже близко не подходит к теоретическим пределам, которые установлены индукцией по Соломонову. Эта картина даже отдалённо не напоминает итерацию сквозь все вычислимые гипотезы, взвешенные по их простоте и последующее выполнение с ними байесианских операций.

Чтобы вообразить предел информации, которую можно теоретически извлечь, представьте, что у вас есть бесконечная вычислительная мощность и вы симулируете все возможные Вселенные с простыми физиками и ищете те варианты, где реализуется Земля --- возможно, внутри симуляции --- и где некоторый процесс заставляет звёзды мерцать в наблюдаемом порядке. Любой бит в сообщении --- или любая последовательность звёзд, иными словами --- который содержит малейшую корреляцию (среди всех возможных вычислимых вселенных, взятых с весами их простоты) с любым элементом среды, даст вам информацию об этой среде.

С помощью индукции по Соломонову, если рассматривать буквально, были бы созданы исчислимо бесконечное количество разумных существ, запертых внутри симуляций. Фактически, все вычислимые разумные существа. Вряд ли это этично. Так что давайте радоваться, что это всего лишь формализм.

Моя мысль в том, что "теоретический предел извлекаемой из чувственных данных информации" гораздо больше, чем я описал как триумф цивилизации из физиков и криптографов.

И он уж точно повыше, чем уровень человека, который смотрит на падающее яблоко и думает: "Эээ... а что произошло?"

Кажется, что люди делают переход от "у этого есть предел" до "предел должен быть разумным и в масштабах, к которым я привык". Мощность взрыва суперновой "ограничена", но я бы не советовал пытаться прикрыть себя от него жаропрочным костюмом из магазина спецодежды.

Никто --- и даже Байесианский сверхинтеллект --- никогда не подойдёт даже близко к эффективному использованию сенсорной информации...

... мне хочется так сказать, но я не доверяю своей способности устанавливать границы возможностей Байесианским сверхинтеллектам.

(Впрочем, я бы поставил на это деньги, если бы нашёлся способ рассудить ставку. Только не при гигантских коэффициентах.)

А рассказ продолжается:

Тысячелетиями позже, кадр за кадром, выясняется, что изображённые объекты протягивают шупальца, чтобы окружать другие объекты и осторожно располагают другие шупальца, чтобы сделать некоторые знаки. Они пытаются научить нас говорить "камень".

Кажется, будто отправители сообщений значительно недооценили наш интеллект. А из этого можно вывести, что пришельцы сами по себе не слишком умны. И эти неуклюжие детишки могут изменять светимость наших звёзд? Такое сочетание силы и глупости кажется опасным.

Наши эволюционные психологи начали экстраполировать возможные траектории эволюции, которые могли породить таких пришельцев. Выдвинута довольно сильная гипотеза, что они эволюционировали асексуально с редким обменом генетическим материалом и содержимым мозга. Это кажется наиболее правдоподобной версией, как существа настолько глупые сумели построить технологическую цивилизацию. Их Эйнштейны могут быть нашими первокурсниками, но они всё равно смогли собрать достаточно данных, чтобы в конце концов решить задачу, вероятно, за десятки их тысячелетий.

К этому моменту физика 3+2 вселенной до конца не ясна, но кажется, в ней допустимы компьютеры гораздо мощнее, чем наши квантовые. Мы довольно уверены, что наша вселенная запущена в виде симуляции на таком компьютере. Человечество решает не пытаться найти баги в симуляции --- не хотелось бы случайно сломать такую систему.

Наши эволюционные психологи начинают строить догадки о психологии чужих и планировать, как можно будет их убедить выпустить нас из коробки. В абсолютном смысле это не сложно --- они не очень умны --- но нужно быть очень осторожными...

Необходимо притвориться, что мы тоже глупые. Не хочется, чтобы они осознали свою ошибку.

Проходит ещё миллион лет, прежде чем они говорят нам, как послать сигнал обратно.

К этому моменту большая часть человеческой цивилизации находится в состоянии криогенной заморозки при температурах жидкого гелия под защитой от излучений. Всякий раз, когда мы пытаемся построить ИИ или нанотехнологии, они плавятся. А потому человечество ждёт и спит. Землёй управляет костяк из девяти супергениев. Это клоны, они хорошо работают вместе и находятся под наблюдением определённых компьютерных защитных систем.

На протяжении следующей сотни миллионов лет люди рождаются в этой команде, стареют и входят в состояние криогенной заморозки до того, как у них появится шанс воплотить планы, которые они составили эпохи назад.

С точки зрения инопланетян, нам потребовалось тридцать их минут, чтобы ой-как-мило понять их психологию, ой-как-разумно убедить их дать нам доступ в Интернет, затем потребовалось 5 минут, чтобы разобраться с их сетевыми протоколами, а затем взломать их, причём сложность была только в маскировке невинного вида. Мы прочитали несколько физических статей (медленно, бит за битом) из их эквивалента arXiv, изучая гораздо больше из их экспериментов, чем они. (В тот момент в наш костяк добавилось ещё двадцать Эйнштейнов.)

Затем мы решили их эквивалент задачи фолдинга белка за примерно столетии и провели некоторые симуляции с их физикой. Мы послали сообщения (со стеганографическим кодированием, а потом взломанные нами сервера их раскодировали) в лаборатории, где происходил их эквивалент секвенирования ДНК и синтеза белков. Мы нашли какого-то лопуха, наплели ему правдоподобную легенду и подарили эквивалент миллиона долларов, а затем попросили смешать несколько веществ, которые он получил по почте. Эквиваленты белков самостоятельно собрались в наномашины первого поколения, те построили наномашины второго поколения, а те --- третьего... и наконец-то мы получили возможность действовать с нормальной скоростью.

На всё ушло три дня по их меркам и полмиллиарда лет по нашим.

Они так ничего и не заподозрили. Они были не очень умны, даже если не учитывать, что время у них текло медленнее. Их примитивные аналоги рационалистов ходили и приговаривали: "Есть предел информации, которую можно извлечь из сенсорных данных." И они так и не поняли, что это значит, а мы были умнее их и думали быстрее.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/77383/481892

Переводчики: sepremento