Rationality: From AI to Zombies / Рациональность: от ИИ до зомби: (52) Неоспоримый авторитет (http://lesswrong.com)

Кое-кто приходит к вам и надменно говорит: "Наука ничего не знает по-настоящему. Всё что у вас есть это теории — вы не можете наверняка знать, что вы правы. Вы, учёные, изменили своё мнение о том как работает гравитация — кто скажет, что завтра вы не передумаете по поводу эволюции?"

deep_blue_hex 13.04.16 в 16:06

Смотрите, бездонная культурная брешь. Если вы думаете, что можете преодолеть её несколькими предложениями, то непременно будете жестоко разочарованы.

deep_blue_hex 20.04.16 в 05:02

В мире непросветленных существуют авторитеты и не-авторитеты. Чему можно верить, тому можно верить; чему верить нельзя вполне можно отбросить. Существуют хорошие и плохие источники информации. Если ученые изменили свои рассказы хотя бы раз, то наука уже не может быть истинным Авторитетом и уже не сможет вернуть доверие к себе - подобно свидетелю, пойманному на противоречии или сотруднику, пойманному на краже из кассы.

bartolomay 12.08.16 в 12:22

Помимо этого, люди принимают за данность, что сторонник идеи будет защищать её от всех возможных контраргументов, скрывая все слабости. Все заявления обесцениваются соответственно. Если даже сторонники науки признают её менее чем идеальной, то она должна быть практически бесполезна.

bartolomay 12.08.16 в 12:29

Если кто-то привык к уверенности, ты не можешь просто сказать ему - "Наука вероятностна, как и любое другое знание". Они примут первую часть заявления как признание вины и отбросят вторую его часть как размашистую попытку обвинить всех остальных, для избежания осуждения.

bartolomay 12.08.16 в 12:33

Ты должен признать, что ты не заслуживаешь доверия - так что убирайся прочь, Наука, и не беспокой нас больше!

bartolomay 12.08.16 в 12:34

Один очевидный источник для подобного образа мышления это религия, в которой писания приписывают божественному происхождению. А значит, признание в них малейшего недостатка полностью уничтожит их авторитет. Так что любой след сомнения - грех и претензия на уверенность обязательна, не важно уверен ты или нет.

bartolomay 12.08.16 в 12:39

Но я предполагаю, что порядок в традиционных школах тоже имеет к этому причастность. Учитель говорит тебе что-то и ты должен верить ему и повторить то же самое во время теста. Но когда ученик заявляет что-либо, ты не обязан соглашаться с ним - ты свободен расходиться с ним во мнениях и никто не накажет тебя.

bartolomay 12.08.16 в 12:44

Я боюсь, что этот опыт увязывает область убеждений и социальные сферы авторитета, приказа, закона. В социальной сфере существует качественная разница между абсолютными и относительными законами, между приказами и предположениями, между авторитетами и не-авторитетами. Кажется, что здесь есть строгое и нестрогое знание, подобно строгой и нестрогой регуляции. Строгим авторитетам необходимо подчиняться, в то время как нестрогим предположениям можно как повиноваться так и отбросить в зависимости от личных предпочтений. И Наука, поскольку она признается в возможности собственной ошибки, должна принадлежать ко второму классу.

bartolomay 12.08.16 в 12:58

(Следует заметить, что я вижу тут некоторое сходство с теми, кто думает, что, лишь Авторитетные вероятности, написанные на куске бумаги, полученном от преподавателя или другого Бесспорного Источника, заслуживают быть частью Байесовской теории вероятностей. Ведь в противном случае, кто-то может (Ах!) оспорить твою оценку вероятности. Следовательно, похоже, что для не-совсем-просветленных, Байесовы априорные принадлежат именно к классу убеждений, предложенных учеником, а не к классу, предложенному преподавателем - не настоящее знание.)

Muyyd 04.11.16 в 04:02

Эта бездонная культурная брешь между Авторитетным Путем и Количественным путем довольно-таки раздражительно действует на тех из нас, кто смотрит на это со стороны рационалистов. А вот и он - обладатель более надежного знания, чем всего лишь вероятностные научные догадки - вроде догадок о том, что Луна взойдет в полагающемся ей месте и фазе завтра, как и в каждую наблюдаемую ночь с момента изобретения архивов астрономических событий, как и предсказано физическими теориями, чьи предыдущие прогнозы были успешно подтверждены до четырнадцати знаков после запятой. Так что же это за знание, которое непросветленные ставят выше нашего, и почему они его ставят выше нашего?

Muyyd 04.11.16 в 04:23

Вероятно, это какой-то затхлый древний свиток, который опровергли одиннадцать раз с воскресенья, с понедельника и с любого другого дня недели. И тем не менее, он более надежен (так они говорят), ведь этот свиток безошибочен, не меняет содержания, неважно сколько раз он был опровергнут. Они бросаются словом "уверенность", как теннисным мячом, используя его так же легкомысленно, как перышко, в то время, как ученые стремятся добиться хоть какого-то вероятностного значения. "Я идеален", говорят они беспечно, "Я превосхожу тебя по всем параметрам, ведь ты все еще пытаешься улучшить себя".

Muyyd 04.11.16 в 04:31

Нет простого способа возразить им. Аккуратно рассуждая, ты, возможно выиграешь, аудиторию, если речь о публичных дебатах. К сожалению, ты не можешь воскликнуть: "Жалкий смертный, Количественный Путь вне твоего понимания, а те убеждения, о которых ты так уверенно говоришь, менее надежны, чем наименее точная из моих могучих гипотез". Эту разницу в мировосприятии не так уж легко описать словами, не говоря уже о том, чтобы сделать это "вкратце".

Muyyd 04.11.16 в 04:37

Но что ты можешь сделать, с позиции риторики, с аудиторией? Трудно сказать, но...

Muyyd 04.11.16 в 04:39

"Сила науки берет свое начало из готовности признать свои ошибки и изменить свое мнение. Если ты не признаешь ошибок, это не значит, что ты их не делаешь."

Muyyd 04.11.16 в 04:41

"Кто угодно может заявить о своей полной уверенности. Сложней, однако, никогда не ошибаться. Ученые понимают эту разницу, и не говорят о абсолютной уверенности. И все. Это не означает, что у них есть конкретная причина сомневаться в теории: абсолютно каждый кусок свидетельства указывает в одном направлении, все звезды и планеты выстроились, как домино в поддержку одной гипотезы, а ученые все еще не выскажут полную уверенность - у них высокие стандарты. Это не значит, что ученые имеют меньше прав на уверенность, чем политики (которые кажутся так уверенны во всем)."

Muyyd 04.11.16 в 04:46

"Ученые не используют фразу "не совсем уверены" так же, как она используется с бытовом разговоре. Например, ты пришел к врачу и сдал кровь на анализ. Доктор вернулся и и сказал: "Мы провели несколько тестов, и не совсем уверены, что ты не сделан из сыра, и есть ненулевые шансы на то, что двадцать фей, состоящих из разумного шоколада, поют “I love you” от Барни, внутри твоей кишки." Беги не оглядываясь, твоему доктору нужен доктор. Когда ученый говорит что-то подобное, это значит, что вероятность настолько мала, что ты ее даже в электронный микроскоп не увидишь, однако ученый готов рассмотреть свидетельства, в том маловероятном случае, если они у тебя есть."

Muyyd 04.11.16 в 04:56

"Готов ли ты изменить свое мнение о том, в чем ты "уверен", если увидишь достаточно сильное свидетельство? Я говорю, например, о Боге, спустившемся с небес и сказавшем, что все твои религиозные верования верны, за исключением "Непорочного Зачатия". Если это изменит твое мнение, следовательно, ты не можешь утверждать, что ты абсолютно уверен в "Непорочном Зачатии". В силу технических особенностей теории вероятности, если ты способен изменить свое мнение относительно какого-то события, то вероятность этого события не может равняться одному. Неуверенность может быть меньше пылинки, но она должна присутствовать. А если ты не способен изменить свое мнение даже в случае с вмешательством Бога, у тебя серьезные проблемы с признанием своих ошибок, и эти проблемы масштабней всего того, что другой смертный (вроде меня) может сказать тебе."

Muyyd 04.11.16 в 05:06

Но в некотором роде гораздо интереснее вопрос, что сказать человеку без аудитории, один на один. Как начать учить кого-то жить во вселенной, где ни в чём нет уверенности?

AlRaune 11.02.17 в 16:35

Моральные релятивисты говорят:

AlRaune 11.02.17 в 16:37

- Мир не делится на чёрное и белое, следовательно:

AlRaune 11.02.17 в 16:37

- Всё серое, следовательно:

AlRaune 11.02.17 в 16:38

- Никто не может быть лучше, чем другие, следовательно:

AlRaune 11.02.17 в 16:38

- Я могу делать что хочу, и ты не можешь меня остановить, муахаха.

AlRaune 11.02.17 в 16:38

Но мы должны быть способны удержать людей от совершения убийства.

AlRaune 11.02.17 в 16:39

Поэтому должен существовать какой-то способ быть абсолютно уверенным - или моральные релятивисты победят.

AlRaune 11.02.17 в 16:39

На самом деле мне кажется, что для того, чтобы не вводить общественность в заблуждение, учёным, может быть, стоило бы говорить "Мы не бесконечно уверены" вместо "Мы не уверены". Так как вторая формулировка в обычном словоупотреблении предполагает, что у вас есть конкретная причина для сомнений.

AlRaune 11.02.17 в 16:55