Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: That Alien Message

Представьте себе мир, точь-в-точь как наш, только благодаря технологиям генной инженерии средний IQ равен 140 (по нашей шкале). Потенциальные Эйнштейны встречаются один раз из тысячи, а не один из миллиона. И воспитывают их в особой школьной системе, по крайней мере, в школах для одарённых детей. Математический анализ преподают в шестом классе. Сам Альберт Эйнштейн жил и сделал примерно те же самые открытия, однако его работа более не кажется чем-то особенным. Несколько современных физиков сделали столь же великие открытия и с ними все ещё можно поговорить.

sepremento 24.07.20 в 03:16

(Нет, Бреннан живёт не в этом мире.)

sepremento 24.07.20 в 03:17

В один из дней звёзды на небе начинают меняться.

sepremento 24.07.20 в 03:17

Какие-то из них становятся ярче, какие-то, наоборот, тускнеют. Большинство остаются неизменными. Телескопы астрономов ловят все перемены, мгновение за мгновением. Те звёзды, которые меняются, меняют свою светимость по одной за раз. Изменение светимости происходит за микросекунду, но каждые два момента перемен разделяет целая секунда.

sepremento 24.07.20 в 03:21

С первого же мгновения, как становится понятно, что меняется более чем одна звезда, кажется, что процесс происходит чётко вокруг Земли. Свет от разных источников, от звёзд из разных частей галактики, достигает орбиты Земли точно вовремя. Вскоре приходят подтверждения от телескопов с высоких орбит (у них такие есть), что вне Земли эти астрономические чудеса не кажутся настолько синхронизированными. Только Земные телескопы ловят перемену одной звезды в секунду (точнее 1005 миллисекунд).

sepremento 24.07.20 в 03:27

Практически все интеллектуальные способности человечества обращаются к анализу.

sepremento 25.07.20 в 03:11

Быстро становится ясно, что у звёзд, у которых светимость увеличивается, она увеличивается ровно в 256 раз, а у тех звёзд, у которых светимость уменьшается, она уменьшается ровно в 256 раз. Невозможно обнаружить паттерн в координатах звёзд. А это оставляет лишь паттерн яркий-тусклый-яркий-яркий...

sepremento 25.07.20 в 03:13

"Двоичный код!" - первая мысль каждого.

sepremento 25.07.20 в 03:14

Однако в этом мире есть люди, который способны размышлять осторожно и которые пользуются большим уважением. Они сомневаются. "Существуют гораздо более простые способы послать сообщение," --- пишут они в своих блогах, --- "если вы способны заставить звёзды мерцать и хотите пообщаться. Происходит что-то ещё. И на первый взгляд кажется, что это направлено конкретно на Землю. Назвать это 'сообщением' --- значит сделать больше допущений о стоящей за процессом причине, чем необходимо. Среди тех явлений, которые могут заставлять звёзды мерцать, может находиться некий эволюционный процесс, который каким-то образом чувствителен к разуму... Да, вероятно, за этим стоит некое подобие 'интеллекта', но лишь представьте какое многообразие возможностей подразумевается. Мы не знаем, что это действительно сообщение или что оно было послано из тех же побуждений, которые побуждают нас. Мы бы использовали огромный фонарик, мы не стали бы возиться с целой галактикой"

sepremento 25.07.20 в 03:26

К этому моменту некоторые люди уже стали объединять астрономические данные и выкладывать их в Интернет. Предположения, что данные могут быть опасны... не были проигнорированы, но им и не последовали. Если нечто столь могущественное желает тебе навредить, то ты уже по сути мёртв (рассудили люди).

sepremento 25.07.20 в 03:30

Множество исследовательских групп ищут паттерны в звёздных координатах, или во времени достижения сигналом Земли относительно её центра, или в продолжительности сдвига по светимости, или в малейшей дисперсии величины эффекта, да и в любых других фактах, которые можно было знать о звёздах до того, как они изменились. Однако, большинство людей изучали паттерны яркости и тусклости.

sepremento 25.07.20 в 03:35

Почти сразу же становится очевидно, что передаваемая последовательность исключительно избыточна. Из первых 16 бит --- 12 ярких и 4 тусклых. Первые 32 бита почти полностью совпадают со следующими 32 битами и лишь только 7 из них отличаются. Следующие 32 бита отличаются от предыдущих на 9 бит (и 4 из них уже менялись раньше). Из первых 96 бит становится ясно, что это не сжатое оптимально сообщение. Напрашивается мысль, что последовательность предназначена для передачи инструкций, чтобы разархивировать последующее сжатое сообщение...

sepremento 26.07.20 в 03:06

"Однако," --- возражают осторожные мыслители, --- "любой, кого заботит эффективность и у кого есть достаточно власти, чтобы управлять звёздами, мог бы послать нам сигнал с помощью огромного фонарика или послать DVD, не так ли?"

sepremento 26.07.20 в 03:08

Также, кажется, что внутри групп по 32 бита есть структура и некоторые подгруппы из 8 бит встречаются с большей частотой, чем другие и эта структура появляется лишь вдоль естественных сочетаний (32 = 8 + 8 + 8 + 8).

sepremento 26.07.20 в 03:11

После первых пяти часов и одном бите в секунду, становится очевидной ещё одна избыточность: сообщение стало приблизительно повторяться после 16385 бит.

sepremento 26.07.20 в 03:12

При разбиении сообщения на группы по 32 бита, обнаружилась разница в 7 бит между 1-ой группой и 2-ой и 6 бит разницы между 1-ой группой и 513-ой.

sepremento 26.07.20 в 03:13

"2D изображение!" --- подумал каждый. "А восьмибитные группы это цвета, они тетрахроматы!"

sepremento 26.07.20 в 03:14

Но вскоре становится ясно, что в сообщении есть горизонтальная/вертикальная асимметрия: меньше бит меняется, в среднем, между (N,N+1) чем между (N,N+512). А это неожиданно, если двумерное изображение проецируется на симметричную сетку. В таком случае ожидаемо, чтобы среднее расстояние между группами по 32 бита соответствовало квадратичной норме сетки: h^2 + v^2. Формируется консенсус, что некоторое бинарное кодирование ... Эта идея подтверждается последующими битами. Статистики, криптографы, физики и ... приступают к работе. Структура в сообщении есть, её лишь нужно понять. Мастера в причинно-следственных связях ищут условную независимость, [screening-off] и Марковских соседей среди бит и групп бит. То, что назвали "цветом", кажется, играет большую роль в соседях и [screening], а значит это не просто эквивалент отражающих свойств поверхностей. Люди ищут простые уравнения, простые клеточные автоматы, простые деревья решений, которые могли бы предсказать или как-то сжать сообщение. Физики изобретают целые теории всей физики, которые могли бы описать вселенные, спроецированные на сетку --- поскольку кажется довольно правдоподобным, что такое сообщение могло быть послано извне Матрицы.

sepremento 26.07.20 в 03:18

После получения 32 × 512 × 256 = 4,194,304 бит, через примерно полтора месяца, звёзды перестают мигать.

sepremento 27.07.20 в 03:40

Работа теоретиков продолжается. Физики и криптографы засучивают рукава и приступают к делу всерьёз. Они уже взламывали задачи с гораздо меньшим количеством данных. Физики уже выстраивали огромные теоретические структуры из небольших различий в массах частиц. Криптографы распаковывали гораздо более короткие сообщения, которые намеренно усложняли.

sepremento 27.07.20 в 03:42

Проходят годы.

sepremento 27.07.20 в 03:42

В академическом сообществе, под пристальным наблюдением публики и тех учёных, которые однажды реализовывали работу того же типа, что и Эйнштейн, остаются две модели. Первая предполагает, что сетка --- это проекция объектов 5-мерного пространства с симметрией между 3 и 2 пространственными измерениями. Вторая теория говорит, что сетка кодирует клеточный автомат. Кажется, у неё есть несколько удачных свойств для этого. Был написан код, который выдавал интересное поведение, однако до сих пор, запуск соответствующих клеточных автоматов на самых мощных компьютерах не дал каких-либо результатов, которые можно было бы расшифровать. Работа продолжается.

sepremento 27.07.20 в 03:48

Время от времени кто-нибудь набирает группу особенно одарённых студентов, которые никогда не видели полной бинарной последовательности. Этим студентам показывают первые 32 ряда (по 512 столбцов в каждом), чтобы те сформировали новые модели, а затем смотрят, как эти новые модели предсказывают следующие 224 ряда. Студенты воспроизводили и 3+2-мерную модель и модель клеточного автомата, им ещё предстоит сделать что-то лучше. Существуют также сложные модели, которые прекрасно укладываются в полную последовательность --- но эти модели, вероятно, бесполезны.

sepremento 27.07.20 в 03:51

Проходит 10 лет и звёзды начинают мигать вновь.

sepremento 27.07.20 в 03:52

После первых 128 бит становится очевидно, что Вторая Сеть может соответствовать небольшим движениям в 3+2-мерном пространстве, но не походит на следующее поколение любой из теорий клеточных автоматов. Следует бурное ликование и учёные удаляются выяснять, какой вид физики может управлять объектами в 3+2-мерном пространстве. В этом направлении уже проделана большая работа, всего лишь через спекуляции о том, какой вид сил мог вызвать объекты в Первой Сети, если бы эти объекты были статичными. Теперь же кажется, что не все такие объекты статичны. Как и считало большинство физиков --- статически сбалансированные теории казались надуманными.

sepremento 27.07.20 в 03:54

Для описания динамических объектов в 3+2-мерном пространстве, которые отображаются на Первую и Вторую Сетки, были сформулированы многие красивые уравнения. Некоторые уравнения более элегантны, чем остальные. Некоторые особенно точно предсказывают (увы, в ретроспективе) Вторую Сетку. Группа выдающихся физиков, которые тщательно изолировались для работы и рассматривали только первые 32 строки Второй Сетки, произвела систему элегантных уравнений и эти уравнения хорошо предсказали последующие 224 строки. Эта система становится основной догадкой.

sepremento 28.07.20 в 03:04

Однако эти уравнения недоопределены. Кажется, будто их недостаточно, чтобы описать вселенную. Появляется небольшая отрасль, которая пытается угадать, какой тип законов может завершить систему.

sepremento 28.07.20 в 03:05

Когда появляется Третья Сетка через десять лет после Второй Сетки, то в ней содержится информация о вторых производных, а это приводит к значительным изменениям и "неполной, но неплохой" теории. Впрочем теория показала себя неплохо, с учётом всех факторов.

sepremento 28.07.20 в 03:07

Четвертая Сетка добавляет не слишком много новой информации. Третьи производные не кажутся важными для 3+2 физики, которую изучили из Сеток.

sepremento 28.07.20 в 03:07

Пятая Сетка выглядит почти ровно так, как она должна выглядеть.

sepremento 28.07.20 в 03:08

И Шестая, и Седьмая.

sepremento 28.07.20 в 03:08

(О, и каждый раз, когда кто-либо пытается построить мощный ИИ в этом мире, компьютерное железо мгновенно тает. Это не особенно важно для повествования, но мне необходимо постулировать это, чтобы объяснить, почему это в течение 70 лет люди ходят во плоти)

sepremento 28.07.20 в 03:10

Какая же здесь мораль?

sepremento 28.07.20 в 03:10

Что даже Эйнштейн не вырвался на миллион световых лет в плане эффективного использования данных.

sepremento 28.07.20 в 03:11

Риман изобрёл свои геометрии до того, как Эйнштейн ими воспользовался. Физика нашей вселенной не так уж сложна в абсолютном смысле. Байесианский сверхинтеллект, который подключен к вебкамере, предложил бы гипотезу общей теории относительности к третьему кадру с падающим яблоком. Возможно, это была бы не основная гипотеза, по сравнению с Ньютоновской механикой, но тем не менее, она бы находилась на рассмотрении. Возможно, что он угадал бы и с первого кадра, если бы рассмотрел статику согнутой травинки.

sepremento 28.07.20 в 03:15

Мы бы о таком подумали, наша цивилизация. Особенно, если нам дать десять лет на анализ каждого кадра. Совершенно точно подумали бы, если средний IQ 140 и Эйнштейны повсеместно распространены.

sepremento 28.07.20 в 03:17

Даже если у нас человеческий интеллект, но другой тип физики --- наш разум никогда бы не встречал проекцию трёхмерного пространства на двумерную сетку --- мы всё равно бы подумали о гипотезе преобразования из 3D в 2D. Наши математики изобрели бы векторные пространства и проекции.

sepremento 28.07.20 в 03:20

Даже если бы человечество ни разу не видело ускоряющегося бильярдного шара, наши математики всё равно изобрели бы математический анализ (например, для решения задач оптимизации).

sepremento 29.07.20 в 02:35

Да чтоб его, подумайте о сумасшедшей математике, которую у нас на Земле придумали.

sepremento 29.07.20 в 02:36

Иногда я сталкиваюсь с людьми, которые говорят что-то вроде: "Есть теоретический предел тому, сколько знаний можно извлечь о внешнем мире из конечного объема чувственных данных."

sepremento 29.07.20 в 02:37

Да. Есть. Теоретический предел состоит в том, что каждый дополнительный бит информации может сократить пространство оставшихся гипотез не более чем на половину (точнее, половину оставшейся вероятностной массы). И в том, что избыточное сообщение не способно передать больше информации, чем его сжатая версия. Кроме того, бит информации не способен передать информацию о значении, с которым у него ровно нулевая корреляция на протяжении всех вообразимых возможных миров.

sepremento 29.07.20 в 02:40

Но описанная выше цивилизация даже близко не подходит к теоретическим пределам, которые установлены индукцией по Соломонову. Эта картина даже отдалённо не напоминает итерацию сквозь все вычислимые гипотезы, взвешенные по их простоте и последующее выполнение с ними байесианских операций.

sepremento 29.07.20 в 02:43

Чтобы вообразить предел информации, которую можно теоретически извлечь, представьте, что у вас есть бесконечная вычислительная мощность и вы симулируете все возможные Вселенные с простыми физиками и ищете те варианты, где реализуется Земля --- возможно, внутри симуляции --- и где некоторый процесс заставляет звёзды мерцать в наблюдаемом порядке. Любой бит в сообщении --- или любая последовательность звёзд, иными словами --- который содержит малейшую корреляцию (среди всех возможных вычислимых вселенных, взятых с весами их простоты) с любым элементом среды, даст вам информацию об этой среде.

sepremento 29.07.20 в 02:47

С помощью индукции по Соломонову, если рассматривать буквально, были бы созданы исчислимо бесконечное количество разумных существ, запертых внутри симуляций. Фактически, все вычислимые разумные существа. Вряд ли это этично. Так что давайте радоваться, что это всего лишь формализм.

sepremento 29.07.20 в 02:50

Моя мысль в том, что "теоретический предел извлекаемой из чувственных данных информации" гораздо больше, чем я описал как триумф цивилизации из физиков и криптографов.

sepremento 29.07.20 в 02:51

И он уж точно повыше, чем уровень человека, который смотрит на падающее яблоко и думает: "Эээ... а что произошло?"

sepremento 29.07.20 в 02:52

Кажется, что люди делают переход от "у этого есть предел" до "предел должен быть разумным и в масштабах, к которым я привык". Мощность взрыва суперновой "ограничена", но я бы не советовал пытаться прикрыть себя от него жаропрочным костюмом из магазина спецодежды.

sepremento 29.07.20 в 02:55

Никто --- и даже Байесианский сверхинтеллект --- никогда не подойдёт даже близко к эффективному использованию сенсорной информации...

sepremento 29.07.20 в 02:55

... мне хочется так сказать, но я не доверяю своей способности устанавливать границы возможностей Байесианским сверхинтеллектам.

sepremento 29.07.20 в 02:56

(Впрочем, я бы поставил на это деньги, если бы нашёлся способ рассудить ставку. Только не при гигантских коэффициентах.)

sepremento 29.07.20 в 02:57