lesswrong.com)

Оглавление

Сбросить всё

Английский оригинал	Перевод на русский
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям.	Однажды... Muyyd 19.11.15 в 21:39 0
	Эта история произошла во времена, когда я впервые встретил Марчелло, с которым, позже, я буду год работать над теорией ИИ, но на тот момент, я еще не принял его в свои ученики. Я знал, что он участвовал в соревнованиях по математике и информатике на национальном уровне, и этого было достаточно, чтобы я захотел присмотреться к нему. Но я еще не знал, сможет ли он научиться думать об ИИ. Muyyd 19.11.15 в 21:43 0
	Я спросил Марчелло, как, по его мнению, ИИ может разработать способ решения кубика Рубика. Не в смысле написания программы, что довольно тривиально, а открытия законов вселенной Рубика и построения рассуждений об их использовании. Как ИИ изобретет для себя концепты "оператора" или "макро", которые являются ключами для сборки кубика Рубика? Muyyd 19.11.15 в 21:47 0
	И, в процессе дискуссии, Марчелло сказал: "Ну, ИИ понадобиться сложность для того, чтобы сделать Х, и для того, чтобы сделать У..." Muyyd 19.11.15 в 21:48 0
	И я сказал: "Не говори "сложность"." Muyyd 19.11.15 в 21:49 0
	Марчелло спросил: "Почему?" Muyyd 19.11.15 в 21:49 0
	Я ответил: "Сложность не должна быть самоцелью. Возможно, тебе понадобиться определенный алгоритм, добавив который, ты увеличишь сложность, но сложность ради сложности лишь усложняет задачу". (Сказав это, я вспомнил о всех тех людях, что рассказывают про Интеренет, который, став "достаточно сложным", "проснется" в качестве ИИ) Muyyd 19.11.15 в 21:51 0
	И Марчелло сказал: "Но должно же быть какое-то количество сложности, которое бы позволяло сделать это". Muyyd 19.11.15 в 21:52 0
	Я прикрыл глаза и попытался облечь мою мысль в слова. Для меня, говорить "сложность" - делать неправильный пируэт в танце ИИ. Никто не может думать достаточно быстро, осознанно, используя слова для выражения потока сознания; это потребует бесконечной рекурсии. Мы думает словами, но поток нашего сознания протекает ниже уровня слов, посредством выученных остатков озарений прошлого и горького опыта... Muyyd 19.11.15 в 22:02 0
	Я спросил: "Ты читал "Техническое объяснение технического объяснения?"" Muyyd 19.11.15 в 22:03 0
	"Да", ответил Марчелло. Muyyd 19.11.15 в 22:03 0
	"Ладно", сказал я, "Говоря "сложность", ты не помогаешь себе сконцентрировать массу вероятности" Muyyd 19.11.15 в 22:04 0
	"Ох", сказал Марчелло, "это как с "эмерджентностью", хмх. Так... Теперь мне надо подумать, как Х может случиться по-настоящему." Muyyd 19.11.15 в 22:06 0
	Тогда я и подумал: "Возможно, это парень обучаем". Muyyd 19.11.15 в 22:06 0
	Сложность - далеко не бесполезный концепт. Она может быть определена математически, например в виде Колмогоровской сложности или размерности Вапника-Червоненкиса. Даже на интуитивном уровне, сложность стоит того, чтобы рассуждать о ней - тебе надо оценить сложность гипотезы и решить что она "слишком сложна" для имеющегося объема свидетельств или посмотреть на строение и попытаться упростить. Muyyd 19.11.15 в 22:27 0
	Но концепты сами по себе на становятся полезными или бесполезными. Использование может быть корректным или нет. Движение, которое пытался вплести в танец Марчелло - попытка объяснения "за просто так", получить что-то в обмен на ничего. Это часто повторяемая ошибка, в моей сфере, как минимум. Можно вступить в дискуссию об Искусственном Интеллекте и наблюдать как люди наступают на те же грабли, тут и там, вновь в вновь; постоянно игнорируя собственное непонимание. Muyyd 19.11.15 в 22:33 0
	Ты и моргнуть не успеешь, а это уже произошло: проталкивание неконтролируемого причинного узла для чего-то таинственного, причинного узла, который воспринимается как объяснение, но не является таковым. Эта ошибка случается ниже уровня слов. Она не требует какого-то особенного изъяна личности; так устроено человеческое мышление по-умолчанию, так люди рассуждали с древних времен. Muyyd 19.11.15 в 22:38 0
	Чего тебе следует избегать, так это игнорирования таинственного; ты должен задержаться рядом с тайной и столкнуться с ней напрямую. Есть множество слов, способных "пронести" тайну, и некоторые из них можно вполне обоснованно применять в других контекстах, например, - сложность. Но главная ошибка - игнорировать контрабанду таинственного, не замечая причинный узел, скрытый за ним. Контрабанда не является мыслью, а микромыслью. Нужно уделять пристальное внимание чтобы заметить это. И, натренировав себя в избегании этого, можно превратить умение в инстинкт, ниже уровня слов. Нужно ощущать какие области карты пока пусты, и главное, уделять внимание этому чувству. Muyyd 19.11.15 в 22:47 0
	Подозреваю, что, в научных кругах, присутствует сильное давление, способствующее сокрытию таких проблем; ведь нужно выдавать бумаги с шлейфом законченности. Тебя будут больше почитать, если в твоей будто бы полной работе будет присутствовать "эмерджентный феномен", а не за незаконченную, в которой есть ярлыки "понятия не имею, как это работает" или "а тут происходит чудо". Журнал может даже не принять такую работу, ведь, кто знает, вдруг необъясненные явления и являются моментами, где все самое интересное происходит? И да, случается так, что все не-магические части оказываются, так же и не-важными. Это цена, которую приходится порой платить за вход в неизведанное и попытки решить проблемы мелкими шажками. Но это так же означает, что понимание того, что ты еще не закончил - чрезвычайно важно. Часто, люда даже не осмеливаются исследовать неизведанное, в страхе зря потраченного времени. Muyyd 19.11.15 в 22:57 0
	И если ты работаешь на революционным ИИ стартапом, давление спрятать проблемы еще больше; а то ведь придется признать, что ты не знаешь пока как построить ИИ, и твоя жизнь обратится в прах. Но,в возможно, я слишком усложняю, ведь контрабанда происходит неосознанно; далеко ходить за примерами не нужно, просто взгляни как люди обсуждают философию, религию или науки, в которой у них нет профессиональной подготовки. Muyyd 19.11.15 в 23:02 0
	Марчелло и я пришли к соглашению о работе с ИИ: если мы сталкиваемся с чем-то, чего мы не понимаем, а это случалось довольно часто, мы будет говорить об этом как о "магии", например, "Х магически делает У", чтобы напоминать себе о том, что тут присутствует нерешенная проблема, провал в понимании. Гораздо полезней говорить "магия", чем "сложность", ведь последнее создает иллюзию понимания. Мудрей говорить "магия" и оставлять себе напоминание о работе, которую надо будет сделать позже. Muyyd 19.11.15 в 23:05 0