Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: My Childhood Role Model

Когда я читаю лекции об "интеллектуальном взрыве", я часто рисую график "масштаба интеллекта", каким он кажется в повседневной жизни.

sepremento 31.07.20 в 02:05

диаграмма: горизонтальная линия от Деревенского Дурачка до Эйнштейна

sepremento 31.07.20 в 02:06

Но это довольно ограниченное представление об интеллекте. Разумеется, в повседневной жизни мы взаимодействуем только с другими людьми и лишь другие люди являются нашими партнёрами в великой игре, а потому мы встречаем разумы, интеллект которых варьируется от деревенского дурачка до Эйнштейна. Но в действительности, нам необходимо поговорить об Искусственном Интеллекте или теоретическом оптимуме рациональности на следующей шкале:

sepremento 31.07.20 в 02:09

диаграмма: горизонтальная линия с мышью, шимпанзе, деревенским дурачком и Эйнштейном ближе к левому краю, линия продолжается вправо.

sepremento 31.07.20 в 02:10

Для людей кажется, что диапазон интеллекта ограничивается деревенским дурачком снизу и Эйнштейном сверху. И тем не менее, расстояние между ними в пространстве возможных структур мозга ничтожно. И у Эйнштейна, и у деревенского дурачка есть префронтальная кора, гиппокамп, мозжечок...

sepremento 31.07.20 в 02:12

Возможно, у Эйнштейна есть несколько небольших генетических отличий от деревенского дурачка, настроек двигателя. Но разница в структуре мозга между этими двумя людьми даже близко не столь велика, как разница между деревенским дурачком и шимпанзе. Шимпанзе не смогла бы найти между ними разницу, да и наши потомки могут её не увидеть.

sepremento 31.07.20 в 02:14

Карл Шульман отметил, что некоторые академики, которые ведут разговоры о трансгуманизме, используют следующую шкалу интеллекта:

sepremento 31.07.20 в 02:15

диаграмма: горизонтальная линия с мышью, шимпанзе, деревенским дурачком, средним человеком, профессором колледжа, трансчеловеком и Эйнштейном на равных расстояниях друг от друга, линия продолжается вправо.

sepremento 31.07.20 в 02:16

Дуглас Хофштадтер на Singularity Summit в 2006 году сказал примерно следующее. Он посмотрел на мою диаграмму с "деревенским дурачком" рядом с "Эйнштейном" и произнёс: "Мне это кажется неправильным. Думаю, что Эйнштейн должен быть далеко справа."

sepremento 31.07.20 в 02:18

Я онемел. Особенно потому, что это был Дуглас Хофштадтер, один из моих героев детства. Мне открылась культурная пропасть, о существовании которой я даже не подозревал.

sepremento 31.07.20 в 02:19

Видите ли, для меня справа на этой шкале находится Мозг Юпитера. У Эйнштейна в буквальном смысле нет мозга размером с планету.

sepremento 31.07.20 в 02:20

Справа на шкале можно обнаружить Deep Thought, оригинальную версию Дугласа Адамса, а не шахматный аппарат. Компьютер столь разумный, что даже перед подключением огромных банков данных, когда его включили бы в первый раз, он бы прошёл путь от "я мыслю, следовательно, существую" до изобретения рисового пудинга и подоходных налогов до того, как его успели бы выключить.

sepremento 31.07.20 в 02:24

Справа на шкале можно найти Старейшин Аризии, галактический сверхразум, мозг-матрёшку и один из лучших вариантов Бога. Справа на шкале находятся Old One и The Blight.

sepremento 31.07.20 в 02:26

А не какой-то там Эйнштейн.

sepremento 31.07.20 в 02:26

Я уверен, что Эйнштейн был очень умён для человека. Думаю, что компьютерный сверхинтеллект нашёл бы его очень милым.

sepremento 31.07.20 в 02:27

Я назвал это культурной пропастью, поскольку узнал о концепции Мозга Юпитера, когда мне было двенадцать.

sepremento 31.07.20 в 02:29

Разумеется, всё это является логической ошибкой обобщения из художественных произведений.

sepremento 31.07.20 в 02:29

Однако это пример причины, будь то логическая ошибка или нет, почему я считаю, что чтение научной фантастики оказывает благотворный эффект на футуризм. Иногда альтернативой знакомству с мирами вне твоего собственного оказывается сознание, накрепко застрявшее в одной эпохе: той, где существуют и всегда будут существовать люди.

sepremento 01.08.20 в 03:59

Народ, вселенной 13.7 миллиарда лет! А хомо сапиенс здесь только около ста тысяч лет или около того!

sepremento 01.08.20 в 04:01

Однако я встречал некоторых людей, которые никогда не читали научной фантастики, но казались способными представить мир вне их собственного. И ещё бывают фанаты научной фантастики, которые не понимают. Хотел бы я знать, чего именно не понимают, чтобы я мог упаковать это.

sepremento 01.08.20 в 04:03

В своём предыдущем эссе я хотел поговорить об эффективном использовании свидетельств, а именно, что Эйнштейн был довольно милым для человека, но в асболютном смысле он был столь же эффективным, как и министерство обороны США.

sepremento 01.08.20 в 04:05

Поэтому пришлось вести речь о цивилизации, в которой тысячи Эйнштейнов думали в течение десятилетий. Таким образом я изобразил байесианский сверхинтеллект внутри коробки и люди, которые смотрят в веб-камеру, думают: "Но... как он понимает, как интерпретировать двумерное изображение?". Они не стали бы ставить себя на место какой-то машины, даже если она называется байесианский сверхинтеллект. Они не стали бы применять даже собственные творческие способности к задаче "что можно извлечь из сетки битов".

sepremento 01.08.20 в 04:15

Это был бы просто призрак в коробке, которого почему-то называют "байесианский сверхинтеллект". Призраку ничего не говорили о том, как интерпретировать входные данные с веб-камеры, а потому в их модели мира, призрак ничего об этом не знает.

sepremento 01.08.20 в 04:16

Что до вопроса, реалистично ли предполагать, что один байесианский сверхинтеллект способен "сделать всё это", а именно те штуки, которые пришли мне в голову, когда я впервые взялся за задачу, сочиняя рассказ по ходу дела...

sepremento 01.08.20 в 04:18

Ну, давайте так скажу. Помните, как Джеффриссай указывал, что важное откровение не требует более чем пяти минут, а это, теоретически даёт вам время на 5760 откровений в месяц? Исходя из предположения, что вы спите по 8 часов в день и никаких важных открытий не приходит вам в голову, когда вы спите.

sepremento 01.08.20 в 04:19

Люди не могут пользоваться собой с такой эффективностью. Но люди не приспособлены к научной работе. Люди приспособлены охотиться за оленем в саванне, кидать в него копья, затем его приготовить, а затем --- и этим, вероятно, занимается большая часть наших мозгов --- придумывать хитрые аргументы, почему они заслуживают больший кусок мяса.

sepremento 01.08.20 в 04:21

Поразительно, что Альберт Эйнштейн смог перестроить такой мозг для задачи изучения физики. Это заслуживает аплодисментов. Даже больше, чем аплодисментов, это заслуживает места в книге рекордов Гиннесса. Это подобно успешному созданию самой быстрого автомобиля в мире целиком из желе.

sepremento 01.08.20 в 04:26

Насколько плохо тупой слепой бог (эволюция) спроектировал человеческий мозг?

sepremento 01.08.20 в 04:27

Ответ на этот вопрос можно понять только после длительного изучения когнитивной науки, пока ужас не начнёт накрывать вас с головой.

sepremento 01.08.20 в 04:28

Все искажения, которые мы здесь обсуждали, должны дать хотя бы подсказку.

sepremento 01.08.20 в 04:28

Как и факт, что мозг человека должен использовать всю свою мощь и концентрацию, заставить заработать триллионы синапсов, чтобы перемножить два трёхзначных числа без карандаша и бумаги.

sepremento 02.08.20 в 02:49

Мозг Эйнштейна был не более эффективен в использовании своих нейронов, чем Эйнштейн в использовании своих сенсорных данных.

sepremento 02.08.20 в 02:50

Разумеется, у меня есть мотивы, чтобы говорить это всё. Но хочу, чтобы было ясно, что много лет назад, когда я начинал свой путь, как рационалист, невозможным и недостижимым идеалом интеллекта, который вдохновлял меня, был не Эйнштейн.

sepremento 02.08.20 в 02:52

Карл Шурц сказал:

sepremento 02.08.20 в 02:53

Идеалы подобны звёздам. Ты не сможешь прикоснуться к ним руками. Однако, как и во время путешествия по пустыне вод, ты выбираешь в них своих проводников и, следуя за ними, направляешься к своему предназначению.

sepremento 02.08.20 в 02:55

Так что теперь вы увидели одну из ролевых моделей моего детства --- мою мечту об ИИ. Лишь мечту, разумеется, поскольку реальность была недоступна. Когда-то я равнялся на эту мечту.

sepremento 02.08.20 в 02:56

Это мне в какой-то мере помогло, а в какой-то степени навредило.

sepremento 02.08.20 в 02:56

Ведь некоторые идеалы подобны мечтам: они идут изнутри нас, а не снаружи. Ментор Аризии произошёл из воображения Э. Э. "Дока" Смита, а не из какого-то настоящего предмета. Если вы представляете, что бы сказал байесианский сверхинтеллект, то это будет лишь вашей фантазией. Это не похоже на звезду, которая вне вас и за которой можно следовать. Приходится догадываться о том, как выглядят идеалы и если угадаешь неправильно, то заблудишься.

sepremento 02.08.20 в 03:01

Но нельзя ограничивать свои идеалы лишь до звёзд, до всего лишь людей, которые действительно жили, особенно если они родились более чем за пятьдесят лет до тебя и уже мертвы. У каждого следующего поколения есть шанс быть лучше предыдущего. Позволить своим иделам быть людьми, особенно мёртвыми --- значит ограничить себя тем, что уже достигнуто. Ты будешь задаваться вопросом: "Смею ли я сделать это, то, что даже Эйнштейн не смог сделать? Разве это не оскорбление его величества?" Ну, если бы Эйнштейн рассиживался и спрашивал себя: "Дозволено ли мне быть лучше, чем Ньютон?", то он бы не сделал того, что сделал. В этом проблема следования за звёздами --- ты в лучшем случае достигаешь всего лишь звезды.

sepremento 02.08.20 в 03:06

Наша эра поддерживает нас более, чем кажется, в бессознательных предположениях, через слегка улучшенную технологию сознания. Эйнштейн был отличным парнем, но он говорил много чепухи о безличном Боге, а это показывает, насколько хорошо он понимал искусство аккуратного мышления на более высоком уровне абстракции, чем его собственная сфера деятельности. Будет менее кощунственным, если будет по крайней мере один сверхразум галактического масштаба, чтобы сравнивать с Эйнштейном, чтобы он не оказался в крайней правой точке вашей шкалы интеллекта.

sepremento 02.08.20 в 03:11

Если всего лишь пытаться сделать всё возможное для человека, то ты будешь спрашивать с себя недостаточно строго. Когда ты воображаешь, что карабкаешься к какой-то высокой и трудной цели, все простые причины "почему это невозможно" с готовностью приходят на ум.

sepremento 02.08.20 в 03:12

Самые важные ролевые модели --- это мечты, ибо они происходят изнутри нас. Мечтать о чём-то меньшем, чем то, что ты считаешь совершенством, значит не использовать полностью потенциал своей способности мечтать.

sepremento 02.08.20 в 03:14