Готовый перевод Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: Предисловие

Вы держите в руках собрание блог-постов за два года. В ретроспективе, я смотрю на этот проект и вижу множество вещей, которые были сделаны совершенно не так. И меня это совсем не волнует. Если бы, оглянувшись назад, я не увидел множество своих ошибок, это означало бы, что с 2009 ни качество моей работы, ни понимание материала не изменились."Ой" - звук, который мы издаем, улучшая наши убеждения и стратегии; так что, оглядываясь назад, не замечая ничего, что ты сделал неправильно, означает что ты ничему не научился и не изменил свое мнение с тех пор.

Я был не прав, когда писал свои блог-посты в течении двух лет, не думая о том, чтобы помогать людям в обычной жизни. Я писал их, намереваясь помочь людям решать большие, сложные, важные проблемы, и я выбирал звучащие впечатляюще абстрактные проблемы в качестве примеров.

В ретроспективе, это было второй по важности ошибкой моего подхода. Она была связана с первой: я не понимал, что немалой проблемой в изучении этого ценного способа рассуждений является понять, как практиковать его, а не просто знать теорию. Я не осознавал, что эта часть является приоритетной; оглядываясь на это, я могу сказать разве что "Ой".

Да, порой те большие проблемы действительно важны, но это не отменяет простой правды: чтобы мастерски овладеть этими навыками, нужно практиковать их, и это трудно делать на отвлеченных задачах. (Сегодня Центр Практической Рациональности работает над разрешением моей серьезной ошибки систематически).

Третья моя огромная ошибка в том, что я слишком сильно концентрировался на рациональном убеждении и слишком мало - на рациональном действии.

Четверной по важности ошибкой была организация контента моих цепочек. В частности, мне следовало создать вики раньше и создать возможность читать посты, как части цепочек.

Хотя бы эта ошибка может быть исправлена. В этой работе Роб Бенсингер записал посты и реорганизовал их как мог, стараясь не переписывать содержание материалов (это не всегда получалось).

Моей пятой по важности ошибкой было то, что я, насколько видел, пытался говорить прямо о глупости того, что казалось мне глупыми идеями. Я пыталсся избежать искажения, известного как бульверизм, когда вы начинаете дискуссию с заявления о глупости тех, кто верит во что-либо. Я всегда сначала рассматривал некую тему, а уже потом говорил "и поэтому это глупо". Но тогда, в 2009 вопрос о том, важно ли иметь в моем окружении людей, презирающих гомеопатию, был открытым. Я считал и до сих пор считаю, что есть проблема с людьми, на определенном уровне думающими "ничего плохого не случится, если я скажу, что верю в это; я не потеряю статус, если скажу, что верю в гомеопатию" и что ироническая усмешка может помочь этим людям пробудится от их иллюзий.

Сегодня я бы писал более вежливо, думаю. Беспардонность служила определенной цели, и я считаю, что были люди, которым она помогла; но теперь я более серьезно воспринимаю риск построения такого сообщества, в котором нормальной и ожидаемой реакцией на новичка будет открытое презрение и насмешки.

Несмотря на эту ошибку, моя читательская аудитория более чем хороша в том, чтобы не использовать мою риторику как оправдание для унижения других. (хотел бы особенно выделить Скотта Александера, который является лучшим человеком, чем я, и очень хорошим автором тем, заслуживая части похвал в построении здоровой атмосферы сообщества.)

Оглядываться назад и говорить, что вы "провалились", означает, что у вас были цели. Так чего я пытался достичь?

Существует определенный ценный способ рассуждений, котором пока не учат в школах. Этому способу вообще систематически нигде не учат. Он лишь проявляется сам у тех, кто вырастает на книгах типа "Конечно, вы шутите, мистер Фейнман" или кому попался необычно одаренный в учительском плане преподаватель во время обучения.

Наиболее широко данный способ мышления практикуется в науке и экспериментальном методе. Это тот момент в науке, когда вы просто идете и смотрите на вселенную, вместо того, чтобы выдумывать. Момент, когда вы говорите "Ой" и отказываетесь от плохой теории, если эксперименты не свидетельствуют в ее поддержку.

Но данный способ рассуждений куда шире. Он глубже и универсальней той пары очков, что вы надеваете в лаборатории и снимаете при выходе из нее. Он применим в реальной жизни, хотя это сложнее и тоньше. Но если вы не можете сказать "Ой" и отказаться от чего-то нерабочего, то вы обречены вечно стрелять себе в ногу. Вы обречены перезаряжать оружие и спускать курок. Вам известны такие люди. И в какой-то момент своей жизни, даже не задумываясь об этом, вы действуете подобно тем людям. Было бы неплохо, если бы был способ мыслить так, чтобы помогать нам прекратить так делать.

Несмотря на размер допущенных мной ошибок, эти два года выкладки статей похоже помогли удивительно большому числу людей в немалой степени. Это работает не слишком надежно, но иногда срабатывает.

В современном обществе так мало учат навыкам рациональных убеждений и принятия решений, столь мало показывают математики и науки, лежащих за ними...и получается, что даже простое чтение о мозголомных проблемах науки и философии может быть удивительно полезно для вас. Изучение всего этого с различных точек зрения может иногда помочь уловить единый ритм.

Потому что, в конце концов, это все одно и то же. Я говорил о больших отвлеченных задачах и пренебрегал повседневной жизнью, но законы, управляющие ими, на самом деле те же самые. Есть огромные пробелы в том, на чем я концентрировался, и я подбирал неверные примеры; но в конце концов, все сводится к одному. Я горд оглянуться назад и сказать, что даже после всех сделанных ошибок и тех раз, когда я говорил "Ой"...даже через пять лет я все еще думаю, что это лучше, чем ничего.

-- Элизер Юдковский, февраль 2015

Внимание! Этот перевод, возможно, ещё не готов.
Его статус: идёт перевод

Переведено на Нотабеноиде
http://notabenoid.org/book/60560/285861

Переводчики: Remlin, Muyyd