Lesswrong papers / Статьи с Лессронга: Фальшивый оптимизационный критерий

Я прежде уделил немало внимания формам рационализации, посредством которой наши убеждения похоже воспринимают свидетельство куда сильнее, чем должны на самом деле. И я не преувеличиваю значимость этого. Если бы мы могли преодолеть это фундаментальное метаискажение и увидеть что на самом деле предсказывает каждая гипотеза, мы были бы в состоянии исправить почти любую ошибку факта.

Remlin 13.09.14 в 16:49

Зеркальный вызов для теории принятия решений это увидеть какой критерий выбора на самом деле рекомендуется. Если вы в качестве морального вызова постулируете обеспечение всех лэптопами, на самом ли деле рекомендуется купить украшенный драгоценными камнями лэптоп для вас за один миллион долларов или же потратить те же деньги на покупку 5000 обычных лэптопов?

Remlin 13.09.14 в 16:52

Создается такое впечатление, что мы эволюционируя развили в себе ловкость оправдывать практически любое действие для любой цели. В средние века при помощи теории флогистона оправдывали почему магний горит, хотя это металл, а инквизиторы объясняли каким образом бесконечная любовь Бога к своим детям требует сжечь некоторых из них на костре.

Remlin 13.09.14 в 16:56

В этом нет ничего загадочного. Политика развилась как черта родоплеменного окружения. Мы произошли от тех, кто мог убедительно доказать что во благо племени нужно убить ненавидимого ими соперника Углака (мы определенно не произошли от Углака).

Remlin 13.09.14 в 16:57

И еще...возможно ли доказать, что если бы Роберт Мугаб заботился только о благе Зимбабве, он бы отказался от поста президента? Вы можете сказать, что цель оправдывает средства, но разве мы только что не видели, что люди способны подогнать любую цель к любым действиям? Как вы можете знать, что вы правы, а Мугаб - нет? (Есть ряд причин, которые являются хорошими предположениями, но пока просто потерпите меня.)

Remlin 13.09.14 в 17:00

Человеческие мотивы многочисленны и туманны, процессы наших решений весьма сложны, равно как и наш мозг. Да и мир сам по себе является очень сложным местом, в каждом из выборов средств реального мира. Можем ли мы вообще доказать, что люди рационализируют - что мы систематически искажаем связь между принципами и средствами - когда мы теряем даже ту единственную опору, на которой стоим? Когда нет способа точно найти даже подразумеваемый единичный оптимизационный критерий? (На самом деле вы можете просто наблюдать что люди не соглашаются насчет офисной политики такими способами, которые странно коррелируют с их собственными интересами, в то же время одновременно отрицая, что эти интересы играют какую-либо роль. Но опять же, потерпите еще.)

Remlin 13.09.14 в 17:05

Где же стандартиризованный, открытый, в общем разумный, консеквенциалистский оптимизационный процесс, в который мы могли бы поместить завершенную моральность как ХМЛ файл, чтобы найти что же мораль на самом деле рекомендует, будучи примененной к миру? Есть ли пусть даже единичный реальный случай, где мы могли бы точно знать, какой критерий выбора рекомендован? Где чистый моральный мыслитель - известная функция полезности, очищенная от всех остальных заблудившихся желаний которые могут исказить ее оптимизация - чей надежный вывод мы можем сравнить с человеческими рационализациями той же самой функции полезности?

Remlin 13.09.14 в 17:09

Почему же, это наш старый друг, чужой бог, конечно! Естественный отбор гарантированно свободен ото всей милости, любви, сострадания, эстетических взглядов, политической фракционности, идеологических пристрастий, академических амбиций, либертарианства, социализма, Синих и Зеленых. Естественный отбор не максимизирует всестороннюю генетическую пригодность - он не умен. Но когда вы смотрите на результат естественного отбора, вы гарантированно смотрите на результат того, что было оптимизировано только по всесторонней генетической пригодности, а не в интересах агрокультурной индустрии США.

Remlin 13.09.14 в 17:57

В случае историй эволюционных наук - в, например, Трагедии Группового Отбора - мы можем напрямую сравнить человеческие рационализации с результатом чистой оптимизации по известному критерию. Что Уэйн-Эдвардс думал по поводу того, что должно быть результатом группового отбора для малых размеров субпопуляций? Добровольное ограничение в размножении и достаточность еды для всех. Что было настоящим лабораторным результатом? Каннибализм.

Remlin 13.09.14 в 18:35

Теперь вы можете спросить: все эти случаи из эволюционных наук действительно релевантны к человеческой морали, которая не дает две фиги для всеохватной генетической приспособленности, когда оно движется по пути любви, сострадания, эстетики, исцеления, свободы, честности и прочего? Человеческие сообщества даже не обладали концептом "всеохватной генетической приспособленности" до двадцатого столетия.

Remlin 13.09.14 в 18:38

Но я спрошу в ответ: если мы не можем напрямую увидеть результат единого монотонного оптимизационного критерия - если мы даже не можем натренировать себя слыть отдельную чистую ноту - тогда как мы услышим оркестр? Как мы увидим, что "всегда будь эгоистичен" или "всегда слушайся правительства" являются плохими принципами, которыми могут руководствоваться люди - если мы думаем, что даже даже оптимизация генов для всеохватной генетической пригодности должна производить организмы, жертвующие репродуктивными возможностями во имя социального соглашения о ресурсах?

Remlin 13.09.14 в 18:42

Чтобы научить себя видеть ясно, нам нужны простые практические примеры.

Remlin 13.09.14 в 18:42