Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: Предисловие

Вы держите в руках собрание блог-постов за два года. В ретроспективе, я смотрю на этот проект и вижу множество вещей, которые были сделаны совершенно не так. И меня это совсем не волнует. Если бы, оглянувшись назад, я не увидел множество своих ошибок, это означало бы, что с 2009 ни качество моей работы, ни понимание материала не изменились."Ой" - звук, который мы издаем, улучшая наши убеждения и стратегии; так что, оглядываясь назад, не замечая ничего, что ты сделал неправильно, означает что ты ничему не научился и не изменил свое мнение с тех пор.

Muyyd 16.10.15 в 17:00

Я был не прав, когда писал свои блог-посты в течении двух лет, не думая о том, чтобы помогать людям в обычной жизни. Я писал их, намереваясь помочь людям решать большие, сложные, важные проблемы, и я выбирал звучащие впечатляюще абстрактные проблемы в качестве примеров.

Muyyd 16.10.15 в 17:24

В ретроспективе, эта ошибка была второй по важности. Она связана с первой ошибкой моей манеры письма: я не осознавал, что догадаться, как практиковать этот ценный способ рассуждений, не зная теории, было проблемно. Я не понимал, что именно эта часть должна была быть приоритетом, теперь же я могу сказать лишь "Ой".

Muyyd 16.10.15 в 17:40

Да, порой те большие проблемы действительно важны, но это не отменяет простой правды: чтобы мастерски овладеть этими навыками, нужно практиковать их, и это трудно делать на отвлеченных задачах. (Сегодня Центр Практической Рациональности работает над разрешением моей серьезной ошибки систематически).

Muyyd 16.10.15 в 17:45

Третья моя огромная ошибка в том, что я слишком сильно концентрировался на рациональном убеждении и слишком мало - на рациональном действии.

Remlin 16.10.15 в 16:38

Четверной по важности ошибкой была организация контента моих цепочек. В частности, мне следовало создать вики раньше и создать возможность читать посты, как части цепочек.

Muyyd 16.10.15 в 17:47

Хотя бы эта ошибка может быть исправлена. В этой работе Роб Бенсингер записал посты и реорганизовал их как мог, стараясь не переписывать содержание материалов (это не всегда получалось).

Muyyd 16.10.15 в 17:49

Пятой по важности ошибкой было то, что я, как я это видел, пытался говорить прямо о глупости того, что мне казалось глупыми идеями. Я действительно старался избежать ошибки, известной как Бульверизм (когда ты открываешь дискуссию заявлением о глупости людей, которые верят во что-нибудь); сначала я обсуждал идею, и лишь потом говорил "И поэтому это глупо". Но тогда, в 2009 вопрос о том, важно ли иметь в моем окружении людей, презирающих гомеопатию, был открытым.

Muyyd 16.10.15 в 18:00

Сегодня я бы писал более вежливо, думаю. Беспардонность служила определенной цели, и я считаю, что были люди, которым она помогла; но теперь я более серьезно воспринимаю риск построения такого сообщества, в котором нормальной и ожидаемой реакцией на новичка будет открытое презрение и насмешки.

Remlin 16.10.15 в 19:36

Несмотря на эту ошибку, моя читательская аудитория более чем хороша в том, чтобы не использовать мою риторику как оправдание для унижения других. (хотел бы особенно выделить Скотта Александера, который является лучшим человеком, чем я, и очень хорошим автором тем, заслуживая части похвал в построении здоровой атмосферы сообщества.)

Remlin 16.10.15 в 19:38

Оглядываться назад и говорить, что вы "провалились", означает, что у вас были цели. Так чего я пытался достичь?

Remlin 16.10.15 в 19:39

Существует определенный ценный способ рассуждений, котором пока не учат в школах. Этому способу вообще систематически нигде не учат. Он лишь проявляется сам у тех, кто вырастает на книгах типа "Конечно, вы шутите, мистер Фейнман" или кому попался необычно одаренный в учительском плане преподаватель во время обучения.

Remlin 16.10.15 в 19:41

Наиболее широко данный способ мышления практикуется в науке и экспериментальном методе. Это тот момент в науке, когда вы просто идете и смотрите на вселенную, вместо того, чтобы выдумывать. Момент, когда вы говорите "Ой" и отказываетесь от плохой теории, если эксперименты не свидетельствуют в ее поддержку.

Remlin 16.10.15 в 19:44

Но данный способ рассуждений куда шире. Он глубже и универсальней той пары очков, что вы надеваете в лаборатории и снимаете при выходе из нее. Он применим в реальной жизни, хотя это сложнее и тоньше. Но если вы не можете сказать "Ой" и отказаться от чего-то нерабочего, то вы обречены вечно стрелять себе в ногу. Вы обречены перезаряжать оружие и спускать курок. Вам известны такие люди. И в какой-то момент своей жизни, даже не задумываясь об этом, вы действуете подобно тем людям. Было бы неплохо, если бы был способ мыслить так, чтобы помогать нам прекратить так делать.

Remlin 16.10.15 в 19:49

Несмотря на размер допущенных мной ошибок, эти два года выкладки статей похоже помогли удивительно большому числу людей в немалой степени. Это работает не слишком надежно, но иногда срабатывает.

Remlin 16.10.15 в 19:50

В современном обществе так мало учат навыкам рациональных убеждений и принятия решений, столь мало показывают математики и науки, лежащих за ними...и получается, что даже простое чтение о мозголомных проблемах науки и философии может быть удивительно полезно для вас. Изучение всего этого с различных точек зрения может иногда помочь уловить единый ритм.

Remlin 16.10.15 в 19:53

Потому что, в конце концов, это все одно и то же. Я говорил о больших отвлеченных задачах и пренебрегал повседневной жизнью, но законы, управляющие ими, на самом деле те же самые. Есть огромные пробелы в том, на чем я концентрировался, и я подбирал неверные примеры; но в конце концов, все сводится к одному. Я горд оглянуться назад и сказать, что даже после всех сделанных ошибок и тех раз, когда я говорил "Ой"...даже через пять лет я все еще думаю, что это лучше, чем ничего.

Remlin 16.10.15 в 19:56

-- Элизер Юдковский, февраль 2015

Remlin 16.10.15 в 19:56