Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Perpetual Motion Beliefs
| Английский оригинал | Перевод на русский | |
|---|---|---|
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям. |
В заключении прошлого эссе сказано: sepremento 19.12.19 в 17:52 Предыдущее эссе закончилось выводом: Alaric 23.02.20 в 18:21 |
|
|
Дабы сформировать корректные убеждения относительно чего бы то ни было, необходимо это пронаблюдать. Наблюдение это очень физичный, реально протекающий процесс: любое рациональное сознание "работает" в термодинамическом смысле, а не только в смысле мысленного усилия... Так что до тех пор, пока вы мне не покажете, какой именно шаг в вашем доказательстве нарушает законы физики и даёт вам знание о ненаблюдаемом, не ждите моей веры в подобные возможности вашего аргумента. sepremento 19.12.19 в 17:57 Чтобы сформировать точные убеждения о чём-то, вам совершенно необходимо за этим наблюдать. Это очень физический, очень реальный процесс: любой рациональный разум «работает» в термодинамическом смысле, а не только в смысле умственных усилий... Поэтому, если вы не можете сказать мне, какой именно шаг в вашем рассуждении нарушает законы физики, давая вам истинное знание незримого, то не ожидайте, что я поверю в то, что всё сложное умное рассуждение способно их нарушить. Alaric 23.02.20 в 18:22 |
+1 | |
|
Главным следствием математической аналогии между термодинамикой и мышлением является неизбежность ограничений вероятности. Сама вероятность может быть "субъективным состоянием убеждения", но законы вероятности тверже стали. sepremento 19.12.19 в 17:59 Главное следствие математической аналогии между термодинамикой и познанием: нельзя избежать ограничений, проистекающих из теории вероятностей. Сама вероятность может быть "субъективным убеждением", но законы, которым она подчиняется, твёрже стали. Alaric 23.02.20 в 18:28 |
||
|
Люди привыкли к традиционному школьному порядку -- учитель говорит вам некоторые слова, а вы в них верите и повторяете ему их в ответ, а если ученик высказывает убеждение, оно не требует подчинения. Таким образом область убеждений проецируется людьми на область авторитета и возникает мысль, будто конкретное убеждение подобно приказу, а вероятностное убеждение это всего лишь предположение. sepremento 19.12.19 в 18:03 В традиционной школе, когда учитель вам что-то говорит, вы обязаны в это поверить и повторить то, что он сказал, в ответ. Однако, когда вы слышите предположение от обычного ученика, вы не обязаны его учитывать. В итоге у многих область убеждений проецируется на область авторитета. В итоге люди думают, что определённые убеждения --- это что-то вроде законов, которым нельзя не подчиняться, но вероятностные убеждения --- это всего лишь предположения. Alaric 23.02.20 в 18:33 |
||
|
Люди смотрят на лотерейный билет и приговаривают: "Но ведь невозможно доказать, что я не выиграю, правда?". При этом они подразумевают: "Возможно, ты и посчитал низкую вероятность выигрыша, но раз это вероятность, то это лишь предположение и мне можно верить во что угодно." sepremento 19.12.19 в 18:04 И, глядя на лотерейный билет, люди говорят: "Но ведь невозможно доказать, что я не выиграю?" При этом они подразумевают: "Пускай ты вычислил, что вероятность выигрыша мала. Но это всего лишь вероятность, а значит --- это лишь предположение, и я могу верить в то, во что хочу". Alaric 23.02.20 в 18:36 |
||
|
Вот вам небольшой эксперимент: бросьте с размаху яйцо на пол. Закон, согласно которому яйцо не впрыгнет к вам обратно в руки - вероятностный. Предположение, если угодно. Законы термодинамики вероятностные, значит они не могут быть всамделишными законами в том же смысле, что и "не убий", правда? sepremento 19.12.19 в 18:07 Предложу простой эксперимент. Бросьте с размаху яйцо на пол. Закон, согласно которому яйцо не впрыгнет вам обратно в руки --- вероятностный. Предположение, если угодно. Законы термодинамики вероятностные. То есть, они не могут быть настоящими законами, в том же смысле, в каком законом является "не убий". Так? Alaric 23.02.20 в 18:38 |
||
|
Ну так чего бы тогда не проигнорировать предположение? В таком случае яйцо соберётся само собой, правда? sepremento 19.12.19 в 18:07 Почему же просто не проигнорировать такое предположение? Яйцо же соберётся само собой. Верно? Alaric 23.02.20 в 18:39 |
||
|
Полезно думать следующим образом, если у вас остались ещё какие-то следы ощущения, будто неконкретные убеждения необязательны: sepremento 20.12.19 в 16:29 Если какая-то часть вас до сих пор настаивает, что убеждения, в которых присутствует неопределённость, не могут вас к чему-то обязывать, полезно подумать о яйце, которое, возможно, соберётся само собой. Alaric 23.02.20 в 18:42 |
||
|
Существует крошечный шанс, что яйцо соберётся обратно в скорлупу. Но невозможно ожидать этого. Вы обязаны ожидать, что оно разобьётся. Для вас обязательно убеждение, что вероятность самопроизвольного восстановления примерно равна нулю. Вероятности несут неопределенность, но законы вероятности являются теоремами. sepremento 20.12.19 в 16:31 Существует крошечный шанс, что яйцо соберётся обратно в скорлупу. Но вы не можете этого ожидать. Вы обязаны ожидать, что оно разобьётся. Для вас обязательно убеждение, что вероятность самопроизвольного восстановления яйца примерно равна нулю. Вероятности описывают неопределённость, но законы теории вероятностей --- это теоремы. Alaric 23.02.20 в 18:44 |
||
|
Если вы сомневаетесь, попробуйте уронить яйцо на пол пару дециллионов раз, игнорируя предположения термодинамики и ожидая, что оно внезапно соберётся в скорлупу и доложите о результатах. Вероятности может и являются субъективными состояниями убеждений, но законы, управляющие ими гораздо твёрже стали. Один мой знакомый был уверен, что его система из колес и шестеренок создаст безреактивную тягу, у него даже была табличка в Excel с доказательством, которую он, разумеется, не мог показать, поскольку система была ещё не готова. В классической механике доказано, что нарушение закона сохранения импульса невозможно. Поэтому любая табличка с расчётами по правилам классической механики с неизбежностью покажет невозможность безреактивной тяги, кроме случаев, когда механизм достаточно сложен, чтобы сделать ошибку в вычислениях. sepremento 20.12.19 в 16:40 Если вы сомневаетесь, попробуйте проигнорировать предположения термодинамики и уроните яйцо на пол пару дециллионов раз, ожидая, что оно соберётся обратно. Расскажите о результатах. Пусть вероятности --- это субъективные убеждения, но законы, которые ими управляют, гораздо твёрже стали. Alaric 24.02.20 в 22:00 |
+2 | |
|
Похожим образом, когда рационалисты наполовину и рационалисты на десятую часть отбрасывают своё искусство в попытке поверить без свидетельств "только разочек", часто дело заканчивается нагромождением оправданий, дабы скрыть этапы рассуждений с участием магии. sepremento 20.12.19 в 16:43 Аналогично, когда люди, овладевшие рациональностью наполовину (или на одну десятую), забывают об искусстве и пытаются поверить, не имея свидетельств, "всего лишь разочек", они часто нагромождают оправдания и тем самым запутывают себя так, что перестают видеть шаг, в котором происходит магия. Alaric 24.02.20 в 22:04 |
||
|
Довольно сложно при этом разобраться, где именно магия -- структура их рассуждений имеет свойство менять форму и выскальзывать при подробном допросе. Почти всегда находится некий шаг, где маленькая вероятность превращается в большую -- место, где они пытаются поверить без свидетельств -- где они вступают в область неизвестного с мыслью "это нельзя опровергнуть". sepremento 20.12.19 в 16:46 Определить, где именно в их рассуждениях происходит магия, обычно довольно сложно: когда их начинают расспрашивать, их аргументы нередко видоизменяются и ускользают. Однако всегда есть какой-то шаг, где крошечная вероятность превращается в значительную. Именно в этом месте они пытаются поверить, не имея свидетельств. Именно в этом месте они шагают в неведомое с мыслью "вы не можете доказать, что я не прав". Alaric 24.02.20 в 22:09 |
||
|
Их ноги проваливаются в пустоту, ведь в царстве Возможного гораздо больше пустого пространства, чем твёрдой почвы. Ах, но ведь существует (бесконечно малая) твёрдая почва в мире Возможного, так что есть (бесконечно малая) вероятность попасть туда наудачу, так что может быть вот сейчас нога попадёт куда надо! Это ведь всего лишь вероятность, всего лишь предположение. sepremento 20.12.19 в 16:48 Их ноги проваливаются в пустоту, ведь в царстве Возможного гораздо больше пустого пространства, чем твёрдой почвы. Ах, но ведь в мире возможного эта почве всё же существует (и её бесконечно мало), так что действительно существует (бесконечно малая) вероятность наткнуться на неё случайно. Так что, возможно, именно в этот раз ваша нога попадёт куда надо. Это ведь всего лишь вероятность, так что это всего лишь предположение. Alaric 24.02.20 в 22:13 |
||
|
Конкретное состояние стакана кипятка вам неизвестно -- и действительно, невежество точного состояния делает кинетическую энергию молекул "теплом", а не готовой к извлечению полезной работой, как у вращающегося маховика. Так что вода может и охладить вашу руку вместо нагревания с вероятностью ~0. sepremento 20.12.19 в 16:51 Пусть вам неизвестно точное состояние воды в стакане с кипятком. Да, именно ваше незнание этого точного состояния делает кинетическую энергию молекул "теплом", а не работой, которую можно использовать, как в случае вращающегося маховика. Поэтому с вероятностью, примерно равной нулю, вода может охладить вашу руку, а не нагреть. Alaric 25.02.20 в 20:10 |
||
|
Проигнорируйте термодинамику, возьмите кипяток в руку и вы обожжётесь. sepremento 20.12.19 в 16:51 Проигнорируйте термодинамику, суньте руку в кипяток и вы обожжётесь. Alaric 25.02.20 в 20:11 |
||
|
"Но ты не знаешь наверняка!" sepremento 20.12.19 в 16:52 |
||
|
Я не знаю наверняка, но я обязан ожидать, что это произойдёт. Вероятности не являются логическими истинами, ими являются законы вероятности. sepremento 20.12.19 в 16:52 Я не знаю наверняка, но я обязан ожидать, что это произойдёт. Законы теории вероятностей --- это логические истины (пускай сами вероятности таковыми и не являются). Alaric 25.02.20 в 21:36 |
||
|
"Но что если я угадаю состояние кипящей воды и угадаю правильно?" sepremento 20.12.19 в 16:53 |
||
|
Вероятность угадать правильно даже меньше, чем вероятность охлаждения вашей руки кипятком. sepremento 20.12.19 в 16:53 |
||
|
"Но ты не можешь доказать, что я угадаю неправильно!" sepremento 20.12.19 в 16:54 |
||
|
Я могу (и вообще говоря, должен) назначить этому событию экстремально низкую вероятность. sepremento 20.12.19 в 16:54 |
||
|
"Это не то же самое, что и уверенность." sepremento 20.12.19 в 16:55 |
||
|
Эй, может быть, если добавить достаточно колёс и шестерёнок в ваши рассуждения, то тёплая вода превратится в электричество и ледяные кубики! А может, вместо этого, вы подумаете "почему бы и нет?" sepremento 20.12.19 в 16:56 Эй, может быть, если добавить достаточно колёс и шестерёнок в ваши рассуждения, то тёплая вода превратится в электричество и ледяные кубики! Но скорее всего вы просто перестанете понимать, почему этого не может быть. Alaric 25.02.20 в 21:38 |
||
|
"И правда! Почему бы и нет? Может и да!" sepremento 20.12.19 в 16:57 "Действительно! Я не понимаю, почему этого не может быть! Так что, не исключено, так и будет!" Alaric 25.02.20 в 21:39 |
||
|
Ещё одна шестерёнка? Ваш механизм становится всё менее эффективным. Он и раньше не был вечным двигателем, а каждое дополнительное колесо делает его хуже. sepremento 20.12.19 в 16:58 Ещё одна шестерёнка? Ваш механизм становится всё менее эффективным. Он и раньше не был вечным двигателем, а каждая дополнительная шестерёнка снижает его эффективность ещё сильнее. Alaric 25.02.20 в 21:40 |
||
|
Каждая деталь ваших рассуждений с неизбежностью уменьшает общую вероятность их истинности.Вероятность, что вы непонятно каким образом нарушили второй закон термодинамики, угадав точное состояние кипящей воды без свидетельств и теперь можете пощупать её и не обжечься даже меньше чем вероятность не получить ожог. sepremento 21.12.19 в 15:10 Любая новая деталь в ваших рассуждениях неизбежно уменьшает общую вероятность. Вероятность того, что вы можете засунуть палец в кипяток и не обжечься, благодаря тому, что вы неизвестным образом нарушили второй закон термодинамики и, не имея свидетельств, угадали точное состояние кипящей воды, обязательно будет меньше, чем просто вероятность засунуть палец в кипяток и не обжечься. Alaric 25.02.20 в 21:44 |
||
|
Я проговариваю всё это, потому что люди и впрямь сооружают огромные конструкции из рассуждений в попытке поверить без доказательств. Нужно научиться видеть аналогию с шестерёнками вечного двигателя у изобретателя, который добавлял их всё больше и больше, до тех пор, пока в его расчёты в Excel не закралась ошибка. sepremento 21.12.19 в 15:12 Я проговариваю всё это, потому что люди, пытаясь поверить, не имея свидетельств, на самом деле сооружают огромные конструкции из аргументов. И нужно научиться видеть, что они в этом очень похожи на изобретателя, который добавлял к своему инерциоиду всё больше и больше шестерёнок, пока в его расчёты не закралась ошибка. Alaric 25.02.20 в 21:46 |