Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Humans in Funny Suits
| Английский оригинал | Перевод на русский | |
|---|---|---|
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям. |
Неоднократно человек летал в космос и обнаруживал инопланетян удивительно похожих на людей в смешных нарядах, людей с легким макияжем и одетых в латекс, а иногда и вовсе бежевых европеоидов. sepremento 07.09.19 в 11:25 Человек летал в космос неоднократно. Но каждый раз он обнаруживал, что в других звёздных системах обитают инопланетяне, удивительно похожие на людей в смешных нарядах. Иногда их от людей отличал лишь небольшой макияж и одежда из латекса, а иногда они и вовсе оказывались обычными светлокожими европиодами. Alaric 15.09.19 в 10:10 |
+2 |
|
Капитан Кирк сражается с Горном на Цестусе III sepremento 10.09.19 в 02:15 |
||
|
"Звездный Путь: Оригинальный сериал", "Арена", © CBS Corporation sepremento 10.09.19 в 02:15 |
+1 | |
|
Удивительно, что отправной точкой для всей вселенной является человек, из которого получились все остальные инопланетные виды с небольшими модификациями. sepremento 07.09.19 в 11:26 Удивительно, что за основу разумной жизни вселенная взяла человека, и именно из него посредством небольших изменений получились все прочие инопланетные виды. Alaric 15.09.19 в 10:15 |
||
|
Что могло бы объяснить этот поразительный феномен? Сходимость эволюции, конечно же! Ведь даже несмотря на отличающиеся условия среды тысяч планет и абсолютно независимо от земных инопланетные формы жизни эволюционировали теми же путями. sepremento 07.09.19 в 11:26 Что могло бы объяснить это поразительное явление? Конечно же, сходимость эволюции! Ведь даже несмотря на отличающиеся условия среды тысяч планет и абсолютно независимо от земных инопланетные формы жизни эволюционировали теми же путями. Alaric 15.09.19 в 10:17 |
||
|
Не обманитесь тем фактом, что кенгуру (млекопитающее) напоминает нас гораздо меньше, чем шимпанзе (примат) и тем, что лягушка (амфибии, как и мы, четвероногие) напоминают нас меньше, чем кенгуру. Не обманитесь изумительным разнообразием насекомых, которые отделились от нас ещё раньше, чем лягушки. Не обманитесь тем, что у насекомых шесть ног и скелеты у них снаружи, и другая оптическая система, и совершенно иные сексуальные практики. sepremento 07.09.19 в 11:29 Пусть вас не сбивает с толку то, что кенгуру (млекопитающее) похоже на нас гораздо меньше, чем шимпанзе (примат), а лягушка (земноводные, как и мы, четвероногие) похожа на нас меньше, чем кенгуру. Пусть вас не сбивает с толку потрясающее разнообразие насекомых, которые на эволюционном дереве находятся ещё дальше от нас, чем лягушки. Пусть вас не сбивает с толку, что у насекомых шесть ног, внешние скелеты, другая система зрения и совершенно иные сексуальные практики. Alaric 15.09.19 в 10:22 |
||
|
Можно подумать, что поистине чуждые нам виды будут отличаться от нас ещё больше, чем мы отличаемся от насекомых. Повторяю, не обманитесь! Чтобы у инопланетного вида развился интеллект, он должен обладать двумя ногами, с одним коленом, каждая из которых должна быть присоединена к прямому торсу и должен ходить похожим на наш способом. Видите ли, любому интеллекту необходимы руки, поэтому придётся переработать для этого пару ног, а если вы не начнёте с существа с четырьмя ногами, то у него не получится приобрести способность к бегу и ходить прямо, освободив руки. sepremento 07.09.19 в 11:30 Кто-то мог бы подумать, что поистине чуждые нам виды будут отличаться от нас ещё больше, чем мы отличаемся от насекомых. Это рассуждение тоже не должно сбивать вас с толку. Чтобы у инопланетного вида развился интеллект, у него должно быть две ноги с одним коленом, соединённых с прямым торсом, и он должен ходить примерно так же, как и мы. Видите ли, любому интеллекту необходимы руки, поэтому придётся переработать для этого пару ног, а если вы не начнёте с существа с четырьмя ногами, то оно не научится бегать и ходить на двух ногах, освободив руки. Alaric 15.09.19 в 10:27 |
||
|
...Или, возможно, в качестве альтернативной гипотезы нам следует допустить, что использование людей в смешных нарядах --- это "легкий путь". sepremento 08.09.19 в 05:05 |
+1 | |
|
Настоящей проблемой является не форма, а сознание. "Люди в смешных нарядах" - хорошо известный термин в научно-фантастическом сообществе и он не относится к прямоходящим с четырьмя конечностями. Угловатое существо из чистого кристалла это "человек в смешном наряде", если оно мыслит поразительно похоже на человека - особенно человека из англоязычной культуры конца девятнадцатого/начала двадцать первого века. sepremento 08.09.19 в 05:09 Но главное --- это не форма, а сознание. "Люди в смешных нарядах" --- это устоявшийся термин в среде поклонников научной фантастики, и он относится не к прямоходящим существам с четырьмя конечностями. Если угловатое существо из чистого кристалла мыслит поразительно похоже на человека --- особенно человека из англоязычной культуры конца двадцатого/начала двадцать первого века, --- это "человек в смешном наряде". Alaric 15.09.19 в 10:32 |
||
|
Я смотрел не так много старых фильмов. Несколько лет назад, когда я смотрел "Психо" (1960), я был поражен культурной пропастью между американцами на экране и современной мне Америкой. Персонажи "Психо" в рубашках на пуговицах казались мне значительно более чуждыми, чем подавляющее большинство так называемых "чужих" на телевидении или в кинотеатре. sepremento 08.09.19 в 05:12 |
+1 | |
|
Чтобы описать культуру, которая не будет походить на твою собственную, нужно уметь увидеть её как особый случай, а не норму, к которой все остальные культуры должны стремиться. Здесь может помочь изучение истории, но это лишь маленькие черные буковки на маленьких белых страничках, а не настоящий опыт. Я подозреваю, что год в Китае или в Дубае, или среди племени !Kung мог бы быть полезным... я этого не делал, был занят. Иногда я задумываюсь, чего я могу не замечать (не там, а здесь). sepremento 08.09.19 в 05:15 Чтобы описать культуру, непохожую на твою собственную, нужно уметь видеть её как особый случай, а не как норму, к которой должны стремиться все остальные культуры. Здесь может помочь изучение истории, но это лишь черные буковки на белых страничках, а не настоящий опыт. Подозреваю, что год в Китае, или в Дубае, или среди жителей племени !Кунг помог бы больше... но я никогда этого не пробовал, был занят. Иногда я задумываюсь, чего я, возможно, не вижу (не там, а здесь). Alaric 15.09.19 в 20:20 |
||
|
Увидеть всё человечество как особый случай может быть гораздо сложнее. sepremento 08.09.19 в 05:15 |
||
|
В любой известной культуре люди выглядят, будто испытывают радость, печаль, страх, отвращение, гнев и удивление. В любой известной культуре эти эмоции сопровождаются одинаковыми выражениями лиц. И в следующий раз, когда вы увидите "пришельца" или "ИИ", спорю, что когда он рассердится (а он рассердится), то проявит характерное для человека сердитое выражение лица. sepremento 08.09.19 в 05:20 Судя по всему, в любой известной культуре люди испытывают радость, печаль, страх, отвращение, гнев и удивление. В любой известной культуре эти эмоции сопровождаются одинаковыми выражениями лиц. И в следующий раз, когда вы увидите "пришельца" или "ИИ", спорю, что когда он рассердится (а он рассердится), то продемонстрирует характерное для человека сердитое выражение лица. Alaric 15.09.19 в 20:21 |
||
|
Мы очень похожи друг на друга внутри наших черепов - это следствие полового воспроизводства. Невозможно иметь разные сложные адаптации, они просто не смогут собраться. (Инопланетяне используют половое размножение, как люди и многие насекомые? Или они имеют небольшие части общего генетического материала, как у бактерий? Формируют ли они колонии, как грибы? Применим ли среди них закон психологического единства?) sepremento 08.09.19 в 05:23 Внутри наших черепов мы очень похожи друг на друга --- это следствие полового воспроизводства. Внутри одного вида не может быть разных сложных адаптаций, они просто не смогут собраться. (Размножаются ли инопланетяне половым путём, как люди и многие насекомые? Или у них, как у бактерий, очень мало общего генетического материала? Формируют ли они колонии, как грибы? Применим ли для них закон психологического единства?) Alaric 15.09.19 в 20:34 |
||
|
Единственным разумом, которым могли манипулировать наши предки, то есть разум, который приходилось детально моделировать, не считая приручения или ловли, был разум, работавший более-менее тем же образом. Так что эволюция заставила нас предсказывать поведение другого разума через представление себя на его месте и вопрос "Что я бы сделал на его месте?"; то, что нужно было предсказать, было похоже на предсказателя. sepremento 08.09.19 в 05:27 Нашим предкам приходилось манипулировать только одним видом разума (подразумеваются достаточно сложные манипуляции, сложнее приручения или ловли). Только один вид разума нашим предкам приходилось моделировать достаточно подробно. И этот вид разума работал более-менее таким же образом, как и их собственный. В итоге мы эволюционировали и предсказываем поведение другого разума, представляя себя на его месте, спрашивая, что бы мы сами сделали в аналогичной ситуации. Тот, чьё поведение нужно было предсказать, не слишком отличался от предсказывающего. Alaric 15.09.19 в 20:30 |
||
|
"Что?" - спросите вы. "Я не считаю, что другие люди такие же, как я! Может быть я в печали, а они сердятся! Они верят в иные вещи, нежели я, а их личности отличаются от моей!". Подумайте вот о чём: человеческий мозг это очень сложная физическая система. Вы не моделируете его нейрон к нейрону или атом к атому. Если вы столкнулись с физической системой столь сложной, как человеческий мозг, которая не похожа на вас, потребуются поколения ученых, чтобы разобраться с ней. Вы не понимаете, как человеческие мозги работают в общем смысле, вы не сможете создать его, вы даже не сможете построить компьютерную модель, которая предскажет другой мозг так же хорошо, как предскажете вы. sepremento 08.09.19 в 05:31 "Что?" --- воскликнете вы. "Я не считаю других людей такими же, как я! Иногда я печалюсь, а они сердятся! Их убеждения не похожи на мои, они во всём не похожи на меня!" Предлагаю посмотреть на это с другой стороны. Человеческий мозг с физической точки зрения чрезвычайно сложно устроен. Вы не моделируете его по нейронам или по атомам. Если бы мы встретились с физической системой, настолько же сложной, сколь и человеческий мозг, учёным потребовались бы целые жизни, чтобы разобраться в ней. Вы не понимаете, как человеческий мозг работает в общем случае, вы не можете его создать, вы не можете даже построить компьютерную модель, которая будет предсказывать другой мозг не хуже вас. Alaric 15.09.19 в 20:43 |
||
|
Единственная причина почему вы можете совладать с чем-то столь физически сложным и плохо изученным, как мозг другого человека в том, что вы подстраиваете свой мозг для его имитации. Вы испытываете эмпатию (при этом, вероятно, не симпатию). Вы накладываете на собственный мозг тень чужого гнева и тень чужих убеждений. Вы можете не озвучивать фразу: "Что бы я сделал на чужом месте?", но небольшое пятно иного сознания, находящееся внутри вас, иногда оживает в вашем мозге, запуская те же самые сложные механизмы, что существуют в другом человеке, синхронизируя части, которые вы не понимаете. Вы можете и не злиться сами, но вы понимаете, что если бы вы злились на себя и верили, что вы безбожная мразь, то вы бы попытались себя покалечить. sepremento 09.09.19 в 04:12 Единственная причина, почему вы можете понять что-то настолько физически сложное и плохо изученное как мозг другого человека, заключается в том, что вы подстраиваете свой мозг, чтобы имитировать чужой. Вы испытываете эмпатию (хотя, вероятно, не симпатию). Вы накладываете на собственный мозг тень чужого гнева и тень чужих убеждений. Возможно, вы не проговариваете мысленно слова "Что бы я с делал на его месте?", но ваш мозг как-то оживляет эту маленькую тень чужого сознания внутри вас. При этом он использует те же сложные механизмы, которые существуют в другом человеке, синхронизирует работу частей, которые вы не понимаете. Вы можете не злиться сами, но вы понимаете, что если бы вы злились на себя и верили, что вы безбожная мразь, то вы бы попытались себя покалечить. Alaric 15.09.19 в 21:23 |
+1 | |
|
Это "суждение через эмпатию" (как я буду его называть) более-менее работает у людей. sepremento 09.09.19 в 04:14 Такое "суждение через эмпатию" (как я буду его называть) у людей более-менее работает. Alaric 15.09.19 в 21:24 |
||
|
Но разум с иными эмоциями, которых вы никогда не чувствовали или который не способен почувствовать ваши эмоции? Вы не сможете представить себя на его месте. Я могу попросить вас представить пришельца, который вырос во вселенной с четырьмя пространственными измерениями, вместо трёх, но у вас не получится перенастроить свою зрительную часть коры и увидеть то, что видит он. Я могу попытаться написать рассказ о пришельцах с иными эмоциями, но ни у вас, ни у меня не получится испытать эти эмоции. sepremento 09.09.19 в 04:17 Но что насчёт разума с иными эмоциями, которых вы никогда не чувствовали? Или который не способен испытывать те же эмоции, что и вы? Вы не сможете представить себя на его месте. Я могу попросить вас представить пришельца, который вырос во вселенной с четырьмя пространственными измерениями вместо трёх, но у вас не получится перенастроить зрительную часть своей коры головного мозга и увидеть то, что видит он. Я могу попытаться написать рассказ о пришельцах с иными эмоциями, но ни у вас, ни у меня не получится их испытать. Alaric 15.09.19 в 21:26 |
||
|
Представьте пришельца, который смотрит братьев Маркс и совершенно не понимает, что происходит, он даже не понимает, почему вы активно ищете чувственный опыт такого рода, потому что он никогда не сталкивался с чем-то даже отдаленно похожим на чувство юмора. Не жалейте их за это -- вы, в свою очередь, никогда не антлировали. sepremento 09.09.19 в 04:21 Представьте пришельца, который смотрит братьев Маркс и совершенно не понимает, что происходит на экране. Он даже не понимает, почему вы активно ищете чувственный опыт такого рода. Ведь он никогда не сталкивался с чем-то даже отдаленно похожим на чувство юмора. Не жалейте его --- вы, в свою очередь, никогда не антлировали. Alaric 15.09.19 в 21:28 |
+2 | |
|
Можно задаться вопросом, что если у пришельцев есть чувство юмора, но ваши шутки недостаточно смешны? Примерно с тем же успехом можно в чужой стране говорить по-английский очень медленно и громко, надеясь, что у иностранцев есть некий внутренний дух, который понимает значение ваших слов, достаточно лишь говорить достаточно громко и преодолеть неведомый барьер в понимании вашего абсолютно ясного английского. sepremento 09.09.19 в 04:25 Возможно, вы спросите: что если у пришельцев есть чувство юмора, но ваши шутки недостаточно смешны? Примерно с тем же успехом можно в чужой стране говорить на своём языке очень медленно и громко в надежде, что у иностранцев непременно есть внутренний дух, который способен понять значение ваших слов --- ведь оно от них неотделимо, --- если у вас получится говорить достаточно громко, чтобы преодолеть неведомый барьер, мешающий понять ваш абсолютно ясный язык. Alaric 15.09.19 в 21:35 |
+1 | |
|
Важно ценить, что юмор может быть прекрасным и значимым, даже если он не повсеместен, даже если не любой возможный разум им обладает. Это будет особой частью нашего подарка завтрашнему дню. sepremento 09.09.19 в 04:27 Важно учитывать, что смех может быть прекрасным и ценным, даже если он не повсеместен, даже если им обладают не все возможные разумы. Пусть он будет особой частью нашего вклада в завтра. Это тоже важно. Alaric 15.09.19 в 21:40 |
+1 | |
|
Лучше бы ему пригодиться, потому что возможность повсеместно распространиться это такое метаэтическое понятие, которое я не смогу спасти за кого-либо. Среди людей, возможно; но не среди всех возможных разумов. sepremento 09.09.19 в 04:30 |
+2 | |
|
А что насчёт разума, который не использует архитектуру эмоций, как мы, и у него вообще нет похожих на эмоции элементов? Даже не думайте объяснять, почему любой достаточно мощный для создания сложных механизмов разум должен обязательно иметь состояния, похожие на эмоции. Естественный отбор создает сложные механизмы и при этом сам не обладает эмоциями. Вот вам Настоящий Пришелец - оптимизационный процесс, который реально Работает Не Так Как Вы. sepremento 09.09.19 в 04:33 |
||
|
Основной прогресс в биологии с 1960-х годов заключался в попытке наложить мораторий на очеловечивание эволюции. Это была основная битва пощечин в академии и не уверен, что здравый смысл бы возобладал, если бы не ошеломительные экспериментальные доказательства, подкрепленные математическими выкладками. Потребовалась долгая, сложная, неравная битва, чтобы заставить людей прекратить ставить себя на место чужого. Я веду эту битву в отношении ИИ уже годы. sepremento 10.09.19 в 02:19 |
||
|
Наш антропоморфизм находится глубоко внутри нас и от него нельзя избавиться усилием воли, нельзя просто сказать "а теперь я перестану мыслить как человек!". Человечность это воздух, которым мы дышим, наша бумага, на которой мы начинаем наши наброски. Мы не думаем, что проявляем человечности, проявляя человечность. sepremento 10.09.19 в 02:22 |
||
|
В научной фантастике считается, что настоящим испытанием для автора является возможность описать Настоящих Пришельцев. (И не просто непонятных пришельцев, которые, ради своих загадочных целей, совершают поступки, которых требует сюжет). Джек Вэнс был одним из величайших мастеров этого искусства. Люди в книгах Вэнса, если они принадлежат другой культуре, гораздо более чужие, чем большинство "чужих". (Никогда не читали Вэнса? Я порекомендовал бы начать с "Города Кэшей") Стоит упомянуть также "Мошку в зенице Господней" Нивена и Пурнелла. sepremento 10.09.19 в 02:27 |
||
|
И наоборот, однажды я прочитал высказывание автора из научной фантастики (кажется, Орсон Скотт Кард), что низшей точкой телевизионной научной фантастики стала серия Звездного Пути, где параллельная эволюция создала пришельцев, которые не только выглядят как люди, не только говорят по-английский, но ещё и независимо записали слово в слово преамбулу к Конституции США. sepremento 10.09.19 в 02:30 |
||
|
Это и есть Великая Ошибка Воображения. Не думайте, что она относится только к научной фантастики или только к ИИ. Неспособность представить чужого это неспособность увидеть самих себя - неспособность понять собственную особенность. Кто вообще может разглядеть человека в камуфляже человека на человеческом фоне? sepremento 10.09.19 в 02:32 |