Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Searching for Bayes-Structure
| Английский оригинал | Перевод на русский | |
|---|---|---|
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям. |
Шлемы гномов не могут выполнять свои функции. Сама их конструкция нарушает природу магического закона. Они, по сути, невозможны. Как и большая часть творений гномьего разума, они включают множество свистелок и перделок, но очень мало сути. Те, что работают, обычно содержат скрытый малый шлем, внешне безобидный и ненужный. sepremento 21.12.19 в 15:18 Шлемы гномов не могут работать. Кажется, сама их конструкция противоречит законам магии. По сути, гномьи шлемы невозможны. В них встроено множество прибамбасов и наворотов --- как и в практически любые творения гномьего разума, --- но это не слишком способствует реальной ценности. В работающем гномьем шлеме почти всегда спрятан обычный небольшой шлем, внешне безобидный и ненужный. Alaric 11.04.20 в 13:44 |
|
|
-- Набор для кампании Spelljammer sepremento 21.12.19 в 15:18 --- Правила для кампании по миру Spelljammer Alaric 11.04.20 в 13:46 |
||
|
Мы уже выяснили, что знание подразумевает общую информацию между разумом и его окружением, а также выяснили, что эта общая информация равна негэнтропии с весьма конкретным физическим смыслом: если вы знаете, где находятся молекулы и с какой скоростью они движутся, то вы можете превратить тепло в работу с помощью демона Максвелла или двигателя Силарда. sepremento 21.12.19 в 15:21 Мы уже выяснили, что знание подразумевает общую информацию между разумом и его окружением, а также выяснили, что эта общая информация равна негэнтропии (именно в физическом смысле): если вы знаете, где находятся молекулы и с какой скоростью они движутся, то вы можете превратить тепло в работу с помощью демона Максвелла / двигателя Силарда. Alaric 11.04.20 в 13:49 |
||
|
Мы видели, что формирование истинных убеждений без свидетельств имеет ту же степень невероятности, как и превращение стакана горячей воды в кубики льда и электричество. Рациональность требует "работы" и не только в смысле усилия мысли, но и в термодинамическом смысле. Разумы должны излучать тепло, если они не абсолютно эффективны. Этот вид когнитивной работы управляется теорией вероятности, термодинамика является её приложением (статистическая физика это прикладная статистика). sepremento 21.12.19 в 15:25 Мы выяснили, что формирование истинных убеждений при отсутствии свидетельств невероятно в той же степени, что и превращение стакана горячей воды в кубики льда и электричество. Рациональность требует "работы": не только в смысле усилия мысли, но и в термодинамическом смысле. Любой разум, не являющийся абсолютно эффективным, должен излучать тепло. Когнитивная работа подчиняется теории вероятностей, частным случаем которой является термодинамика. (Статистическая физика --- это подвид статистики.) Alaric 11.04.20 в 13:52 |
||
|
Если вы видите, как машина крутит колесо и не подключена к розетке или другому источнику энергии, то вы начнёте искать потайную батарейку или излучающий источник энергии -- что угодно, что объяснит совершаемую работу без нарушения законов физики. sepremento 21.12.19 в 15:26 Если вы видите машину, которая не подключена к розетке или иному источнику энергии, но которая крутит колесо, вы начнёте искать спрятанную батарейку или иной источник энергии неподалёку. Совершаемая работа должна как-то объясняться без нарушения законов физики. Alaric 11.04.20 в 13:54 |
||
|
Поэтому, если разум производит истинные убеждения и второй закон термодинамики нигде не нарушается, то этот разум обязан реализовывать нечто байесианское -- хотя бы один процесс с байесовоподобной структурой -- иначе он не смог бы работать. sepremento 21.12.19 в 15:29 Поэтому если разум производит истинные убеждения и мы предполагаем, что второй закон термодинамики нигде не нарушается, этот разум обязан производить что-то подобное на байесианские вычисления. Должен присутствовать хотя бы один процесс со структурой, похожей на байесианскую. Иначе разум не смог бы работать. Alaric 11.04.20 в 13:57 |
||
|
Изначально, в момент Т = 0 у разума нет общей информации с подсистемой в его окружении S. В момент Т = 1 у разума есть 10 бит общей информации с S. Где-то посредине разум должен был столкнуться со свидетельством в Байесовом смысле, ведь любое Байесово свидетельство есть общая информация и любая общая информация есть Байесово свидетельство, а затем обработать хотя бы некоторые из полученных свидетельств с любой степенью эффективности, причём в правильном направлении по Байесу хотя бы в каких-то случаях. Разум должен был двигаться в согласии с Байесом хоть немного или ему пришлось бы нарушить второй закон термодинамики и создать общую информацию из ничего. sepremento 21.12.19 в 15:33 Изначально, в момент Т = 0 у разума нет общей информации с подсистемой S в его окружении. В момент Т = 1 у разума есть 10 бит общей информации с S. Где-то посредине разум должен был столкнуться со свидетельством --- причём именно со свидетельством в байесовском понимании, ведь любое байесианское свидетельство --- это общая информация, а любая общая информация --- байесианское свидетельство, это просто разные названия одного и того же явления. Затем разум должен был обработать это свидетельство хотя бы частично, возможно, неэффективно, и обработать хоть как-то в соответствии с Байесом. Разум обязан был хотя бы немного двигаться согласно Байесу, ведь в противном случае он создал бы общую информацию из ничего и тем самым нарушил бы второй закон термодинамики. Alaric 16.04.20 в 20:01 |
||
|
Фактически, любой этап когнитивного процесса, который участвует в нахождении истины, должен хоть немного иметь Байесианскую структуру -- частично совпадать с Байесовым потоком, пусть и с присутствием шума -- даже если эта Байесианская структура видна только в контексте окружающих процессов. Иначе толку не будет. sepremento 22.12.19 в 12:35 На самом деле на любом этапе когнитивный процесс, который помогает найти истину, должен иметь хоть в какой-то степени байесовскую структуру. В той или иной точке он должен входить в гармонию с Байесом, обязан соответствовать байесовскому потоку, пусть и зашумлённому, пусть со множеством прибамбасов и наворотов. Да, эта байесовская структура может оказаться очевидной лишь в контексте окружающих процессов. Но без неё этот когнитивный процесс окажется бессмысленным. Alaric 17.04.20 в 21:57 |
||
|
Сколько философов билось над природой слов! Сколько чернил истрачено на истинные определения слов, на истинное значение определений и на истинное значение значения! Какие нагромождения из колёс и шестерёнок были построены ради этих объяснений! И всё это было скрытой формой Байесова вывода. sepremento 22.12.19 в 12:37 Сколько философов билось над природой слов! Сколько чернил истрачено на истинные определения слов, на истинное значение определений и на истинное значение значения! Какие нагромождения из колёс и шестерёнок построили философы ради этих объяснений! И всё это было скрытой формой байесовского вывода! Alaric 16.04.20 в 20:02 |
||
|
Я был слегка разочарован, что никто из слушателей не подпрыгнул и не сказал: "Да! Точно! Конечно! Всё время это был Байес!" sepremento 22.12.19 в 12:38 |
||
|
Возможно, не так увлекательно разглядеть хитро скрытого Байеса, внешне абсолютно не выглядящего как Байес, если: (а) не вы распутываете клубок тайны самостоятельно, но читаете о ком-то, кто это сделал (Ньютону было гораздо веселее, чем современным студентам в изучении матанализа) и (б) вы не понимаете, что поиск скрытой Байесовой структуры есть гигантский, сложный, вездесущий квест вроде поиска Святого Грааля. sepremento 22.12.19 в 12:41 Однако, возможно, разглядеть хитро спрятанного Байеса, внешне выглядящего совершенно не так как Байес, вовсе не так увлекательно, если: а) вы не распутываете клубок тайны самостоятельно, а лишь читаете о том, как это кто-то сделал (Ньютону изучать матанализ было гораздо веселее, чем современным студентам), и б) вы не понимаете, что поиск скрытой байесовской структуры есть гигантский, сложный, постоянный квест вроде поиска Святого Грааля. Alaric 16.04.20 в 20:06 |
||
|
Для каждой грани призмы сознания квест всегда свой, но Грааль всегда оказывается одним и тем же. Впрочем, Грааль должен был правильным целиком и полностью, без пропущенных деталей, поэтому каждый раз нужно брать квест поиска полного ответа, какую бы форму этот ответ не принял, а не пытаться искусственно создавать Граалеподобные аргументы. Если всё сделано правильно, в конце вы обнаружите нужный Святой Грааль. sepremento 22.12.19 в 13:10 Для каждой грани сознания квест всегда свой, однако Грааль всегда оказывается одним и тем же. Впрочем, это должен быть правильный Грааль и Грааль целиком, без потерянных деталей. Поэтому каждый раз нужно искать весь ответ целиком, какую форму бы он не принял, а не пытаться искусственно создавать рукомахательные граалеподобные аргументы. Если всё сделано правильно, в конце вы обнаружите всё тот же Святой Грааль. Alaric 16.04.20 в 20:09 |
||
|
Раньше мне пеняли, что со своими длинными эссе я могу терять некоторых читателей, потому что "не даю ясно понять, к чему я веду"... sepremento 22.12.19 в 13:11 Раньше мне пеняли, что я пишу длинные эссе, в которых "не даю ясно понять, к чему я веду", и потому наверняка теряю некоторых читателей... Alaric 16.04.20 в 20:10 |
||
|
... но не так-то просто сообщить людям, к чему я веду, когда я веду к чему-то вышеуказанному. sepremento 22.12.19 в 13:12 ...но в подобных случаях совсем не просто объяснить людям, к чему я веду. Alaric 16.04.20 в 20:11 |
||
|
Бесполезно знать, что форма сознания является Байесианской, если вы не знаете, в каком месте она Байесианская. Если не видно отчётливо потока вероятности, то у вас на руках лишь пароль -- или, если угодно, подсказка к форме ответа. Точно не ответ. Поэтому и возникает Великий Квест к поиску Скрытой Байесовой Структуры, а не просто заклинание-восклицание "Байес!". Структура может быть погребена под огромным количеством ширм, запутана шестеренками и колёсиками, от неё могут отвлечь свистелки и перделки. sepremento 22.12.19 в 13:16 Практически бесполезно знать, что познание по сути своей байесовское, если вы не понимаете, каким именно образом оно байесовское. Если вы не видите отчётливо поток вероятностей, то вы всего лишь знаете пароль. Ну ладно, на самом деле у вас есть подсказка к ответу, но это далеко ещё не ответ. Именно поэтому нельзя просто воскликнуть "Байес!", а нужно уходить в Великий Поиск Тайной Байесовской Структуры. Структура часто погребена под огромным количеством ширм, скрыта за нагромождением колёс и шестерёнок, спрятана за множеством прибамбасов и наворотов. Alaric 16.04.20 в 20:16 |
||
|
Способ, через который начинаешь понимать Квест Святого Байеса, заключается в следующем: вы узнаете о некотором феномене мышления XYZ, он выглядит очень полезным -- множество философов спорили веками о его природе, да и до сих пор спорят -- и множество специалистов по ИИ пытаются заставить компьютер сымитировать его, но пока не договорились о философском описании -- sepremento 22.12.19 в 13:19 Осознать Поиск Святого Байеса непросто. Вы узнаёте феномене мышления XYZ, который выглядит очень полезным. Множество философов спорили веками о его природе, да и до сих пор спорят. Множество специалистов по ИИ пытаются заставить компьютер его повторить, но они тоже пока не договорились об описании с точки зрения философии... Alaric 16.04.20 в 20:52 |
||
|
И -- ВНЕЗАПНО! -- этот феномен мышления на поверхности не имел ничего общего с Байесом, но вот подлежащая неочевидная структура имеет интерпретацию по Байесу -- но погодите, вот совершается некая полезная работа, которую нельзя объяснить в терминах Байеса -- нет, стоп, она тоже Байесианская -- О БОЖЕ МОЙ вот этот совершенно иной процесс мышления, который тоже не выглядел Байесианским на поверхности также имеет Байесианскую структуру -- секундочку, а вот эти не-Байесианские части вообще что-то делают? sepremento 22.12.19 в 13:21 И... Вот те на! Внешне казалось, что этот феномен мышления не имеет никакого отношения к Байесу. Но какую-то лежащую в его основе структуру можно трактовать на языке Байеса... Погодите, тут всё равно есть какая-то полезная работа, которая на языке Байеса не объясняется... Хотя нет, она тоже байесовская... О, Боже мой, вот этот совершенно иной процесс мышления, который тоже внешне не выглядел байесовским тоже байесовский по своей структуре... Секундочку, а вот эти небайесовские части вообще что-нибудь делают? Alaric 16.04.20 в 20:57 |
||
|
Да: Уау, они тоже Байесианские! sepremento 23.12.19 в 14:15 Да: Ух ты, они тоже байесовские! Alaric 16.04.20 в 20:59 |
||
|
Попытка говорить о ритме сродни попытке протанцевать архитектуру. sepremento 23.12.19 в 14:16 Но говорить о ритме --- это всё равно что танцевать архитектуру. Alaric 16.04.20 в 21:00 |
||
|
Потому у меня и возникла загвоздка с попыткой объяснить заранее, к чему я веду. По своему опыту я знаю, что произнеси я: "Байес это тайна Вселенной!", то некоторые люди ответят: "Да! Байес и есть тайна Вселенной!", а другие хмыкнут и проговорят: "Насколько же ты узколобый, ты только взгляни на все эти специализированные, но удивительно полезные методы вроде регуляризованной линейной регрессии, которыми я пользуюсь." sepremento 23.12.19 в 14:18 Отсюда и возникла загвоздка с тем, как объяснить заранее, к чему я веду. По своему опыту я знаю, что произнеси я: "Байес --- это тайна Вселенной!", то некоторые люди ответят: "Да! Байес и есть тайна Вселенной!", а другие хмыкнут: "Ну и узколобый же ты! Взгляни на все эти специализированные, но удивительно полезные методы вроде регуляризации линейной регрессии, которыми я пользуюсь." Alaric 16.04.20 в 21:02 |
||
|
Я надеялся, что вкупе с конкретным примером "чего-то не Байесианского на поверхности, но оказывающегося Байесианским в итоге" и с объяснением разницы между паролями и знанием, а также с объяснением разницы между инструментами и законами, я, возможно, смогу передать понимание ритма без необходимости выполнять квест лично. sepremento 23.12.19 в 14:21 Я надеялся, что если привести конкретный пример "чего-то не байесовского на поверхности, но оказывающегося байесовским в итоге", а заодно объяснить разницу между паролем и знанием, а ещё объяснить разницу между инструментами и законами, то, возможно, я смогу объяснить, как понять этот ритм так, чтобы читателю не пришлось уходить в этот поиск лично. Alaric 16.04.20 в 21:05 |
||
|
Разумеется, это не все Тайные знания Конспирации Байеса, но это всё, что я могу сообщить вам в данный момент. Кроме того, полное Знание известно лишь Совету Байеса и если бы я его выдал, пришлось бы вас принять. sepremento 23.12.19 в 14:23 Разумеется, это не все тайные знания Байесовского Заговора. Однако больше я пока сообщить не могу. Кроме того, секрет целиком известен лишь Совету Байеса, и если бы я его выдал, вас пришлось бы принять. Alaric 16.04.20 в 21:06 |
||
|
Видеть подлежащую Байесианскую структуру сквозь узкоспециализированность когнитивного процесса, воспринимать потоки вероятности и понимать не только Байесово строение мышление, но и как именно оно строится, чувствовать Силу за мышлением -- в этом заключается Байесов Взор. sepremento 23.12.19 в 14:26 Уметь заглянуть под сиюминутную поверхность процесса мышления и увидеть под ней байесовскую структуру, воспринимать потоки вероятностей и знать не только о том, что это мышление тоже байесовское, но и понимать, почему, а также почему именно таким оно должно быть, чувствовать Силу, лежащую в основе мышления --- именно в этом и заключается Байесовское Видение. Alaric 16.04.20 в 21:11 |
||
|
– И королева Кашфы видит оком Змея? sepremento 23.12.19 в 14:30 |
+1 | |
|
– Не знаю, видит ли она им. Пока она лишь оправляется после операции. Но это интересная мысль. Что она сможет узреть, если будет видеть им? sepremento 23.12.19 в 14:31 |
||
|
– Чистые, холодные линии вечности, полагаю. То, что под Тенью. sepremento 23.12.19 в 14:31 |
||
|
Роджер Желязны, Принц Хаоса sepremento 23.12.19 в 14:31 |