Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: My Childhood Role Model

Когда я читаю лекции об "интеллектуальном взрыве", я часто рисую график "масштаба интеллекта", каким он кажется в повседневной жизни.

диаграмма: горизонтальная линия от Деревенского Дурачка до Эйнштейна

Но это довольно ограниченное представление об интеллекте. Разумеется, в повседневной жизни мы взаимодействуем только с другими людьми и лишь другие люди являются нашими партнёрами в великой игре, а потому мы встречаем разумы, интеллект которых варьируется от деревенского дурачка до Эйнштейна. Но в действительности, нам необходимо поговорить об Искусственном Интеллекте или теоретическом оптимуме рациональности на следующей шкале:

диаграмма: горизонтальная линия с мышью, шимпанзе, деревенским дурачком и Эйнштейном ближе к левому краю, линия продолжается вправо.

Для людей кажется, что диапазон интеллекта ограничивается деревенским дурачком снизу и Эйнштейном сверху. И тем не менее, расстояние между ними в пространстве возможных структур мозга ничтожно. И у Эйнштейна, и у деревенского дурачка есть префронтальная кора, гиппокамп, мозжечок...

Возможно, у Эйнштейна есть несколько небольших генетических отличий от деревенского дурачка, настроек двигателя. Но разница в структуре мозга между этими двумя людьми даже близко не столь велика, как разница между деревенским дурачком и шимпанзе. Шимпанзе не смогла бы найти между ними разницу, да и наши потомки могут её не увидеть.

Карл Шульман отметил, что некоторые академики, которые ведут разговоры о трансгуманизме, используют следующую шкалу интеллекта:

диаграмма: горизонтальная линия с мышью, шимпанзе, деревенским дурачком, средним человеком, профессором колледжа, трансчеловеком и Эйнштейном на равных расстояниях друг от друга, линия продолжается вправо.

Дуглас Хофштадтер на Singularity Summit в 2006 году сказал примерно следующее. Он посмотрел на мою диаграмму с "деревенским дурачком" рядом с "Эйнштейном" и произнёс: "Мне это кажется неправильным. Думаю, что Эйнштейн должен быть далеко справа."

Я онемел. Особенно потому, что это был Дуглас Хофштадтер, один из моих героев детства. Мне открылась культурная пропасть, о существовании которой я даже не подозревал.

Видите ли, для меня справа на этой шкале находится Мозг Юпитера. У Эйнштейна в буквальном смысле нет мозга размером с планету.

Справа на шкале можно обнаружить Deep Thought, оригинальную версию Дугласа Адамса, а не шахматный аппарат. Компьютер столь разумный, что даже перед подключением огромных банков данных, когда его включили бы в первый раз, он бы прошёл путь от "я мыслю, следовательно, существую" до изобретения рисового пудинга и подоходных налогов до того, как его успели бы выключить.

Справа на шкале можно найти Старейшин Аризии, галактический сверхразум, мозг-матрёшку и один из лучших вариантов Бога. Справа на шкале находятся Old One и The Blight.

А не какой-то там Эйнштейн.

Я уверен, что Эйнштейн был очень умён для человека. Думаю, что компьютерный сверхинтеллект нашёл бы его очень милым.

Я назвал это культурной пропастью, поскольку узнал о концепции Мозга Юпитера, когда мне было двенадцать.

Разумеется, всё это является логической ошибкой обобщения из художественных произведений.

Однако это пример причины, будь то логическая ошибка или нет, почему я считаю, что чтение научной фантастики оказывает благотворный эффект на футуризм. Иногда альтернативой знакомству с мирами вне твоего собственного оказывается сознание, накрепко застрявшее в одной эпохе: той, где существуют и всегда будут существовать люди.

Народ, вселенной 13.7 миллиарда лет! А хомо сапиенс здесь только около ста тысяч лет или около того!

Однако я встречал некоторых людей, которые никогда не читали научной фантастики, но казались способными представить мир вне их собственного. И ещё бывают фанаты научной фантастики, которые не понимают. Хотел бы я знать, чего именно не понимают, чтобы я мог упаковать это.

В своём предыдущем эссе я хотел поговорить об эффективном использовании свидетельств, а именно, что Эйнштейн был довольно милым для человека, но в асболютном смысле он был столь же эффективным, как и министерство обороны США.

Поэтому пришлось вести речь о цивилизации, в которой тысячи Эйнштейнов думали в течение десятилетий. Таким образом я изобразил байесианский сверхинтеллект внутри коробки и люди, которые смотрят в веб-камеру, думают: "Но... как он понимает, как интерпретировать двумерное изображение?". Они не стали бы ставить себя на место какой-то машины, даже если она называется байесианский сверхинтеллект. Они не стали бы применять даже собственные творческие способности к задаче "что можно извлечь из сетки битов".

Это был бы просто призрак в коробке, которого почему-то называют "байесианский сверхинтеллект". Призраку ничего не говорили о том, как интерпретировать входные данные с веб-камеры, а потому в их модели мира, призрак ничего об этом не знает.

Что до вопроса, реалистично ли предполагать, что один байесианский сверхинтеллект способен "сделать всё это", а именно те штуки, которые пришли мне в голову, когда я впервые взялся за задачу, сочиняя рассказ по ходу дела...

Ну, давайте так скажу. Помните, как Джеффриссай указывал, что важное откровение не требует более чем пяти минут, а это, теоретически даёт вам время на 5760 откровений в месяц? Исходя из предположения, что вы спите по 8 часов в день и никаких важных открытий не приходит вам в голову, когда вы спите.

Люди не могут пользоваться собой с такой эффективностью. Но люди не приспособлены к научной работе. Люди приспособлены охотиться за оленем в саванне, кидать в него копья, затем его приготовить, а затем --- и этим, вероятно, занимается большая часть наших мозгов --- придумывать хитрые аргументы, почему они заслуживают больший кусок мяса.

Поразительно, что Альберт Эйнштейн смог перестроить такой мозг для задачи изучения физики. Это заслуживает аплодисментов. Даже больше, чем аплодисментов, это заслуживает места в книге рекордов Гиннесса. Это подобно успешному созданию самой быстрого автомобиля в мире целиком из желе.

Насколько плохо тупой слепой бог (эволюция) спроектировал человеческий мозг?

Ответ на этот вопрос можно понять только после длительного изучения когнитивной науки, пока ужас не начнёт накрывать вас с головой.

Все искажения, которые мы здесь обсуждали, должны дать хотя бы подсказку.

Как и факт, что мозг человека должен использовать всю свою мощь и концентрацию, заставить заработать триллионы синапсов, чтобы перемножить два трёхзначных числа без карандаша и бумаги.

Мозг Эйнштейна был не более эффективен в использовании своих нейронов, чем Эйнштейн в использовании своих сенсорных данных.

Разумеется, у меня есть мотивы, чтобы говорить это всё. Но хочу, чтобы было ясно, что много лет назад, когда я начинал свой путь, как рационалист, невозможным и недостижимым идеалом интеллекта, который вдохновлял меня, был не Эйнштейн.

Карл Шурц сказал:

Идеалы подобны звёздам. Ты не сможешь прикоснуться к ним руками. Однако, как и во время путешествия по пустыне вод, ты выбираешь в них своих проводников и, следуя за ними, направляешься к своему предназначению.

Так что теперь вы увидели одну из ролевых моделей моего детства --- мою мечту об ИИ. Лишь мечту, разумеется, поскольку реальность была недоступна. Когда-то я равнялся на эту мечту.

Это мне в какой-то мере помогло, а в какой-то степени навредило.

Ведь некоторые идеалы подобны мечтам: они идут изнутри нас, а не снаружи. Ментор Аризии произошёл из воображения Э. Э. "Дока" Смита, а не из какого-то настоящего предмета. Если вы представляете, что бы сказал байесианский сверхинтеллект, то это будет лишь вашей фантазией. Это не похоже на звезду, которая вне вас и за которой можно следовать. Приходится догадываться о том, как выглядят идеалы и если угадаешь неправильно, то заблудишься.

Но нельзя ограничивать свои идеалы лишь до звёзд, до всего лишь людей, которые действительно жили, особенно если они родились более чем за пятьдесят лет до тебя и уже мертвы. У каждого следующего поколения есть шанс быть лучше предыдущего. Позволить своим иделам быть людьми, особенно мёртвыми --- значит ограничить себя тем, что уже достигнуто. Ты будешь задаваться вопросом: "Смею ли я сделать это, то, что даже Эйнштейн не смог сделать? Разве это не оскорбление его величества?" Ну, если бы Эйнштейн рассиживался и спрашивал себя: "Дозволено ли мне быть лучше, чем Ньютон?", то он бы не сделал того, что сделал. В этом проблема следования за звёздами --- ты в лучшем случае достигаешь всего лишь звезды.

Наша эра поддерживает нас более, чем кажется, в бессознательных предположениях, через слегка улучшенную технологию сознания. Эйнштейн был отличным парнем, но он говорил много чепухи о безличном Боге, а это показывает, насколько хорошо он понимал искусство аккуратного мышления на более высоком уровне абстракции, чем его собственная сфера деятельности. Будет менее кощунственным, если будет по крайней мере один сверхразум галактического масштаба, чтобы сравнивать с Эйнштейном, чтобы он не оказался в крайней правой точке вашей шкалы интеллекта.

Если всего лишь пытаться сделать всё возможное для человека, то ты будешь спрашивать с себя недостаточно строго. Когда ты воображаешь, что карабкаешься к какой-то высокой и трудной цели, все простые причины "почему это невозможно" с готовностью приходят на ум.

Самые важные ролевые модели --- это мечты, ибо они происходят изнутри нас. Мечтать о чём-то меньшем, чем то, что ты считаешь совершенством, значит не использовать полностью потенциал своей способности мечтать.

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/77383/481893

Переводчики: sepremento