Lesswrong papers / Статьи с Лессронга: Генетическая логическая ошибка

В списках логических заблуждений вы можете найти "генетическую логическую ошибку" - ошибку, при которой убеждение критикуется на основе причин, по которым кто-либо в него верит.

Remlin 23.05.14 в 22:07

Это, на первый взгляд, весьма странная идея - если причины убеждения не определяют его систематическую надежность, то что же определяет? Если Deep Blue советует нам ход в шахматах, мы верим, что это основано на нашем понимании кода, который обходит дерево игры, при этом мы сами не в состоянии оценить дерево игры. Что может дать возможность расценить любое вероятное предположение как "рациональное", как не то, что было произведено неким систематически надежным процессом?

Remlin 23.05.14 в 22:12

Статьи, рассказывающие об этой ошибке, могут сказать вам, что не всегда данный тип мышления ошибочен - происхождение свидетельства может быть релевантно к его оценке, например в случае с экспертом, который заслуживает доверия. Но, как мы можем узнать из тех же статей, в других случаях это действительно может считаться заблуждением; химик Кекуле увидел структуру бензола во сне, но это не значит, что мы не можем доверять убеждению об этой структуре.

Remlin 23.05.14 в 22:16

Выходит, что иногда это заблуждение, а иногда - нет?

Remlin 23.05.14 в 22:16

Формально генетическая логическая ошибка является заблуждением, поскольку происхождение убеждения не то же самое, что его текущий подтвержденный статус, являющийся суммой всех известных "за" и "против" этого убеждения.

Remlin 23.05.14 в 22:17

Однако мы меняем наше мнение куда реже, чем считаем. Обвинения в сторону происхождения убеждений имеют силу среди людей, которой у них не было бы среди идеальных байесианцев.

Remlin 23.05.14 в 22:19

Очищение вашего разума является мощной эвристикой в том случае, если у вас возникло новое подозрение, что ряд ваших идей может иметь неправильный источник.

Remlin 23.05.14 в 22:21

Как только идея появляется в наших головах, не всегда легко для свидетельства выкорчевать ее оттуда. Посмотрите на тех, кто вырос считая, что библия написана лично богом; позже, они приходят к тому, чтобы (на сознательном уровне) отвергнуть идею, что библию писал лично бог; но при этом продолжают думать, что библия содержит незаменимую этическую мудрость. Им не удалось очистить свое сознание; они могли бы значительно лучше справиться с тем, чтобы усомниться в истинности библейских текстов, основанной только на том, что сама библия говорит об их истинности.

Remlin 23.05.14 в 22:26

В то же время, они должны твердо удерживать в сознании принцип, гласящий что обратное глупости не есть ум; цель - сделать мышление свободным и независимым, а не просто отрицать Библию, сделав это новым алгоритмом.

Remlin 23.05.14 в 22:27

Как только некая идея попадёт вам в голову, вы будете искать ей поддержку всюду, куда только взглянете - и когда её первоисточник попадёт под сомнение, будет вполне разумно считать, что все яблоки упавшие с этого дерева не без подвоха тоже.

Remlin 23.05.14 в 22:28

Но если бы! Не так просто прочистить свой мозг от лишних вещей. Требуется невообразимое усилие, чтобы пересмотреть позицию, не проворачивая раз за разом кэшированные доводы. "Это ещё не кризис веры, пока обстоятельства не начали работать иначе", - говорит Тор Шенкель.

Remlin 23.05.14 в 22:30

Вы должны быть особенно внимательны, если у вас имеется множество идей, проистекающих из одного источника, о котором вы теперь узнали, что он не заслуживает доверия, и при этом все идеи все еще кажутся правильными - очевидным архетипичным примером является как раз-таки библия.

Remlin 23.05.14 в 22:32

С другой стороны... Есть такая штука, как полностью очевидное свидетельство, при котором становится уже неважно, откуда впервые появилась идея. Получение таких свидетельств - именно то, чем занимается Наука. Больше уже не имеет значения, что Кекуле увидел кольцевую струкутуру бензола в своём сне - равно как не имело бы это значения, найди мы эту гипотезу при помощи случайно генерируемых изображений, из откровений спиритиста-шарлатана или вывели из библии. Кольцевая структура бензола подтверждена таким количеством экспериментальных свидетельств, что можно забыть об источнике этого знания и не вспоминать.

Remlin 23.05.14 в 22:37

В отсутствие таких очевидных свидетельств действительно приходится обращать внимание на достоверность источника идей - больше верить экспертам (если конечно их сфера обрела значимость и признание) - меньше доверять идеям, полученным из подозрительных источников - не верить тем, чьи мотивы неизвестны, особенно если они не могут предоставить аргументы независимые от их авторитета.

Remlin 23.05.14 в 22:59

Генетическая логическая ошибка это искажение, когда существуют суждения за пределами изначального факта для обоснования, но обвинение представлено так, словно оно относится к самому вопросу.

Remlin 23.05.14 в 23:00

Некоторые хорошие правила для работы с этим:

Remlin 23.05.14 в 23:01

С подозрением относитесь к критике источников тех убеждений, которые вам не нравятся, особенно если оппонент заявляет суждения за пределами простого авторитета говорящего. "Полет - идея из религии, так что братья Райт лгали" это один из классических примеров.

Remlin 23.05.14 в 23:02

Точно так же не думайте, что вы можете получить хорошую информацию о техническом вопросе всего лишь рассмотрев личностей, которые были вовлечены в него и их мотивы. Если существуют технические аргументы, то они имеют более высокий приоритет.

Remlin 23.05.14 в 23:04

Когда насчет одного из ваших фундаментальных источников возникает сомнение, вы на самом деле должны усомниться во всех ветвях, произрастающих из него. Вы не можете просто отбросить их, потому что обратное глупости не есть ум, но вы должны заново рассмотреть их на предмет их истинности.

Remlin 23.05.14 в 23:06

Но крайне внимательно вы должны смотреть, не верите ли вы до сих пор в те убеждения, источник которых вы позднее отвергнули.

Remlin 23.05.14 в 23:07

Дополнение: Ханна Финли предлагает называть это "генетической эвристикой".

Remlin 23.05.14 в 23:03