Rationality: From AI to Zombies, Book 5 / Рациональность: От ИИ до Зомби, Том 5: Not For the Sake of Happiness (Alone)

Не только ради счастья

AlRaune 10.08.20 в 12:55

Несколько лет назад я ходил на встречу с футуристом Грегом Стоком, на которой он сказал, что радость от научного открытия скоро можно будет заменить таблетками, имитирующими радость научного открытия. Я подошёл к нему после его выступления и сказал: "Я согласен, что создать такие таблетки, наверное, можно, но я бы не согласился добровольно принять их".

AlRaune 10.08.20 в 12:59

Сток на это ответил: "Но это будут очень классные таблетки. Ощущения от каких-то обычных действий никак не сравнятся с эффектом от них. Будет гораздо приятнее просто принять таблетку, чем по-настоящему делать всю эту научную работу".

Alaric 02.10.20 в 13:18

А я ответил: "Согласен, такое возможно, поэтому я бы постарался сделать так, чтобы я никогда их не попробовал".

AlRaune 10.08.20 в 13:03

И судя по всему, Стока моё отношение искренне удивило, что в свою очередь искренне удивило меня.
Часто можно услышать, как специалисты по этике рассуждают так, как будто все человеческие желания можно, в принципе, свести к желанию счастья для себя и для других. (К примеру, Сэм Харрис отстаивает такую позицию в "Конце веры", который я только что закончил перечитывать — хотя у Харриса это сведение скорее случайная жертва, а не основная тема обсуждения.)

AlRaune 10.08.20 в 13:15

Это не то же самое, что спорить о том, можно ли измерить все виды счастья по общей шкале полезности — разные виды счастья могут относиться к разным шкалам, или их нельзя конвертировать по какой-либо другой причине. И это не то же самое, что утверждать, что теоретически всё, что человек не может оценивать ничего, кроме своего собственного психологического состояния: это всё ещё не мешает беспокоиться о том, счастливы ли другие люди.

AlRaune 12.08.20 в 15:38

Вопрос скорее в том, стоит ли нам беспокоиться о том, какие именно вещи делают нас счастливыми, если не учитывать само счастье, которое они приносят.

AlRaune 12.08.20 в 15:39

Легко можно перечислить множество случаев, когда моралисты сходили с пути из-за того, что начали думать не о счастье, а о чём-то другом. Хороший пример — разнообразные штаты и страны, в которых до сих пор запрещён оральный секс; эти законодатели выиграли бы больше, если бы сказали: "Делайте всё, что вас заводит". Но это не доказывает, что все ценности можно свести к счастью; просто в данном конкретном случае обращать внимание на что-то ещё было этической ошибкой.

AlRaune 12.08.20 в 15:45

То, что мы склонны делать вещи, которые делают нас счастливыми, — неоспоримый факт. Но это не значит, что мы должны считать счастье единственной причиной делать именно так. Во-первых, иначе трудно стало бы объяснить, почему нас волнует чьё-то ещё счастье — почему мы способны относиться к чужому счастью как к самоцели, вместо того чтобы использовать других людей как инструменты для того, чтобы почувствовать тёплое сияние удовлетворения.

AlRaune 12.08.20 в 15:50

Во-вторых, если что-то является следствием моих действий, это ещё не значит, что оно было моей единственной мотивацией. Если я пишу пост в блог и у меня болит голова, я могу принять ибупрофен. Одно из последствий моего действия — я испытываю меньше боли. Но это ещё не значит, что это последствие было единственным, и не значит, что это была самая важная причина моего решения. Я высоко ценю состояние, в котором у меня не болит голова. Но я могу ценить что-то само по себе, а могу — как средство достижения цели.

AlRaune 12.08.20 в 15:54

Чтобы все ценности можно было свести к счастью, недостаточно показать, что счастье играет роль в принятии большей части наших решений. Недостаточно даже показать, что счастье является самым важным следствием наших решений. Оно должно быть единственным следствием. Нелегко дотянуть до этого стандарта. (Эту мысль я изначально почерпнул у Собера и Уилсона, не помню точно, в какой работе).

AlRaune 17.08.20 в 14:29

Если я утверждаю, что ценю искусство само по себе, должен ли я ценить искусство, которого никто никогда не видел? Если в закрытой комнате работает экран, и на экране крутится заставка, создающая прекрасные картинки, которые никто никогда не видел? Мне пришлось бы сказать "нет". Я не могу представить себе, какой неживой объект я мог бы ценить как цель, а не только как средство. Это было бы как ценить как самоцель мороженое, а не тех, кто его ест. Всё, что ценно для меня, насколько я могу себе представить, где-то в процессе связано с людьми и их опытом.

AlRaune 17.08.20 в 14:35

Лучше всего я могу сформулировать это так: моя моральная интуиция требует включить как объективный, так и субъективный компонент, чтобы присвоить чему-то полную ценность.

AlRaune 17.08.20 в 14:36

Ценность научного открытия требует и настоящего научного открытия, и участия человека, который этому открытию радуется. Может показаться трудным отделить одно от другого, но эксперимент с таблетками это проясняет.

AlRaune 17.08.20 в 14:40

Я был бы обеспокоен, если бы люди в сбегали в голографические комнаты и влюблялись в неразумные обои рабочего стола. Я обеспокоился бы даже если бы они не знали, что попали в голографические комнаты, а это важная этические задача, когда некоторые агенты гипотетически могут перемещать людей в голографические комнаты и заменять их любимых на зомби без их ведома. И вновь, эксперимент с таблетками всё проясняет: я не просто забочусь о собственном осознании этого неприятного факта. Я бы не поместил себя в голографическую комнату даже если бы я мог принять таблетку и забыть об этом. Я пытаюсь направить своё будущее в иную сторону.

sepremento 24.09.20 в 02:27

Я ценю свободу: когда я определяю, в какую сторону направить будущее, я принимаю во внимание не только субъективные состояния, в которых окажутся люди, но также то, оказались ли они там в результате собственных усилий. Наличие или отсутствие кукловода может повлиять на мою оценку одного и того же результата. Даже если люди не будут знать, что ими манипулируют, для моего суждения всё равно важно, насколько хорошо человечество справилось в будущем. Это важная этическая задача, здесь мы имеем дело с агентами достаточно мощными, чтобы с готовностью подкручивать параметры будущего людей без их ведома.

sepremento 24.09.20 в 02:31

А потому мои ценности не сводятся целиком к счастью: существуют свойства будущего, которые имеют для меня значение, но при этом не сводятся к активации нейронов в чьём-либо центре наслаждения. Эти свойства принципиально не сводятся к субъективным состояниям.

sepremento 24.09.20 в 02:33

А это значит, что моя система принятия решения состоит из множества терминальных ценностей, ни одна из которых не сводится к остальным --- искусство, наука, любовь, вожделение, свобода, дружба...

sepremento 24.09.20 в 02:34

И я согласен с этим. Я ценю, когда жизнь достаточно сложна, чтобы бросать вызов и быть эстетически прекрасной --- и ценю не просто чувство, что жизнь сложна, но сами сложности --- а потому мне не хочется превратиться в центр наслаждений в стеклянной банке. Это стало бы пустой тратой человеческого потенциала, а я ценю именно его реализацию, а не просто чувство, что он реализован.

sepremento 24.09.20 в 02:38