lesswrong.com)

Оглавление

Сбросить всё

Английский оригинал	Перевод на русский
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям.	Во время Сингулярного Саммита 2007, один из ораторов ратовал за создание демократичного мультинационального проекта по разработке Искусственного Интеллекта. Я подошел к микрофону и задал вопрос: Muyyd 09.11.15 в 05:13 0
	- Предположим, группа демократических республик сформирует консорциум по разработке ИИ; в процессе будет много политизирования: некоторые группы будут иметь необычайно сильное влияние, другие будут отодвинуты на задний план, другими словами, результат будет напоминать другие продукты современной демократии. С другой стороны, группа независимых ботаников разработает ИИ у себя в подвале. Снабдит его инструкциями опросить все населения земного шара: даже раздать мобильники всем, кто их не имеет, и выполнить то, что будет утверждено подавляющим большинством голосов. Какой из вариантов более "демократичный" и с каким вы будете чувствовать себя более спокойно? Muyyd 09.11.15 в 05:20 0
	Я хотел узнать, верит ли он в прагматическую адекватность демократического политического процесса или он верит в моральную правильность голосования. Muyyd 09.11.15 в 05:21 0
	Но оратор ответил: Muyyd 09.11.15 в 05:21 0
	- Первый сценарий выглядит как редакторская статья в журнале "Reason", а второй - как сюжет голливудского фильма. Muyyd 09.11.15 в 05:22 0
	Смутившись, я спросил: Muyyd 09.11.15 в 05:24 0
	- Так какой демократический процесс вы имели ввиду? Muyyd 09.11.15 в 05:25 0
	Оратор ответил: Muyyd 09.11.15 в 05:25 0
	- Что-то вроде Проекта Человеческого Генома (это был интернационально финансируемый проект). Muyyd 09.11.15 в 05:26 0
	Я спросил: Muyyd 09.11.15 в 05:26 0
	- Как разные группы будут разрешать свои разногласия Muyyd 09.11.15 в 05:27 0
	в структуре вроде Проекта Человеческого Генома? Muyyd 09.11.15 в 05:27 0
	И оратор ответил: Muyyd 09.11.15 в 05:27 0
	- Я не знаю. Muyyd 09.11.15 в 05:27 0
	Благодаря этому обмену репликами, я вспомнил цитату одного диктатора или кого-то еще, которого спрашивали о его намерениях двигать его карманное государство к демократии: Muyyd 09.11.15 в 05:29 0
	"Мы полагаем, что уже находимся в демократической системе. Некоторые факторы пока отсутствуют, вроде выражения воли народа". Muyyd 09.11.15 в 05:30 0
	Суть демократии в специфическом механизме разрешения политических конфликтов. Если все группы имеют одинаковые предпочтения, то в демократии не будет нужды - мы и так будем сотрудничать. Процесс разрешения может выражаться через голосование, или выбранного представителя, или даже через чувствительного к голосованию ИИ, но выражение должно быть хоть каким-нибудь. Какой смысл призывать к "демократическому" решению, если не подразумевается какой-то механизм разрешения конфликтов? Muyyd 09.11.15 в 05:35 0
	Думаю, это означает, что, сказав "демократия", ты ожидал аплодисментов от аудитории. Это не столько предложение, сколько эквивалент надписи "Аплодисменты" в студии, которая загорается как сигнал к тому, что аудитория должна начать аплодировать. Muyyd 09.11.15 в 05:39 0
	Этот случай запомнился лишь потому, что я перепутал требование аплодисментов с политическим предложением, у моему стыду. Большая часть требований аплодисментов более прямолинейны и могут быть выявлены простым реверсивным тестом. Например, кто-то скажет: "Мы должны сбалансировать риски и возможности ИИ" Muyyd 09.11.15 в 05:40 0
	Если перевернуть это высказывание, мы получим: Muyyd 09.11.15 в 05:43 0
	Мы не должны соблюдать баланс рисков и возможностей ИИ. Muyyd 09.11.15 в 05:44 0
	Поскольку обратное звучит абсурдно, следовательно, неперевернутое утверждение, возможно, нормально, подразумевая, что это не несет новой информации. Есть множество хороших причин для утверждения, которое не является информативным вне контекста. "Нам нужно соблюдать баланс рисков и возможностей ИИ" может быть темой для обсуждения; может делать ударение на важности определенных планов для баланса; может критиковать планы, не соблюдающие баланс. Связывая другие утверждения, предложение может передать новую информацию ограниченному рационалисту - но сама по себе связь может быть неочевидной. Но без уточняющих положений, утверждение не более чем табличка "Аплодисменты!" Remlin 18.11.15 в 20:20 0	+2
	Порой мне хочется толкнуть речь, целиком состоящую из требований аплодисментов, чтобы посмотреть, сколько времени пройдет, прежде чем аудитория начнет хохотать. Muyyd 09.11.15 в 10:28 0
	Я здесь, чтобы предложить взвесить риски и возможности продвинутого Искусственного Интеллекта.Нам следует избегать рисков и, если получится, реализовывать возможности. Нам не следует беспричинно подвергаться совершенно необязательным рискам. Для достижения этих целей нам следует планировать рационально и мудро. Muyyd 09.11.15 в 10:31 0
	Нам не следует действовать из страха и паники, или поддаваться технофобии; однако, не следует и действовать в слепом энтузиазме. Нам следует уважать интересы всех партий, принимающих участие в Сингулярности.Мы должны убедиться, что преимущества продвинутых технологий будут доступны для как можно большего числа индивидов, а не для нескольких. Мы должны, по мере сил наших, избегать конфликтов с применением этих технологий; и мы должны предотвратить попадание этих технологий в руки опасных индивидов. Нам следует думать над этими вопросами до, а не после, когда уже будет поздно что-либо предпринимать... Muyyd 09.11.15 в 10:36 0
	Нам следует взвешивать риски и возможности ИИ. Muyyd 09.11.15 в 10:37 0