Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: The Hidden Complexity of Wishes
| Английский оригинал | Перевод на русский | |
|---|---|---|
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям. |
Существует три вида джинов: джины, которых можно попросить "осуществить то, чего мне следует желать", джины, которых небезопасно просить сделать что-либо и джины, которые не так уж и сильны. sepremento 19.09.19 в 09:13 Существует три вида джиннов: джинны, которых можно попросить "сделай то, что я должен пожелать", джинны, которых опасно просить о чём угодно, и джинны, которые не слишком могучи или не слишком разумны. Alaric 24.09.19 в 15:54 |
+1 |
|
Допустим, ваша пожилая мать оказалась в горящем здании, а вы - в инвалидной коляске и не можете ей помочь. И рядом нет никого, кто мог бы помочь. sepremento 19.09.19 в 09:15 Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Вы можете кричать: "Вытащите мою маму из этого дома!", но вас никто не услышит. Alaric 24.09.19 в 15:57 |
+1 | |
|
Однако, вот удача, в кармане у вас нашлась Помпа Исходов. Это полезное устройство сжимает поток времени, переливая вероятности из одних исходов в другие. sepremento 19.09.19 в 09:17 Однако вам повезло: у вас в кармане лежит помпа исходов. Это полезное устройство сжимает поток времени, перекачивая вероятности из одних исходов в другие. Alaric 24.09.19 в 15:59 |
||
|
Помпа исходов не разумна. В ней содержится крохотная машина времени, которая перезапускает течение времени до тех пор, пока не происходит требуемое событие. Например, если бы вы подключили помпу исходов к монетке, указали бы в условиях перезапуск хода времени всегда, когда монетка выпадает решкой, а затем подбросили бы монетку, то вы бы увидели орла. (Физики скажут, что любое будущее, в котором происходит "перезапуск" будет противоречивым и, следовательно, не наступит, и поэтому вы не убиваете какие-либо версии самого себя.) sepremento 19.09.19 в 09:21 Помпа исходов не разумна. В ней содержится крохотная машина времени, которая перезапускает течение времени до тех пор, пока не происходит требуемое событие. Например, если бы вы подключили Помпу исходов к монетке, указали бы в условиях перезапуск хода времени всегда, когда монетка выпадает решкой, а затем подбросили бы монетку, то вы бы увидели орла. (Физики скажут, что любое будущее, в котором происходит "перезапуск" будет противоречивым и, следовательно, не наступит, и поэтому вы не убиваете какие-либо версии самого себя.) Alaric 25.09.19 в 15:32 |
||
|
Также можно перенаправлять вероятностный поток более тонко, используя "функцию будущего" для масштабирования вероятности перезапуска времени для каждого из исходов. Если вероятность перезапуска 99% для орла и 1% для решки, то шансы упадут с 1:1 до 99:1 в пользу решки. Если бы у вас была загадочный механизм, выплевывающий деньги и вы хотели бы максимизировать их количество, нужно было бы использовать вероятности перезапуска уменьшающиеся по мере увеличения количества денег. Например, $10 имели бы вероятность перезапуска 99.999999%, а $100 имели бы 99.99999%. Таким образом вы бы получали исход, стремящийся к наивысшему значению функции будущего, не зная при этом допустимого максимума. sepremento 19.09.19 в 09:31 Также можно перенаправлять вероятностный поток более тонко, используя "функцию будущего" для масштабирования вероятности перезапуска времени для каждого из исходов. Если вероятность перезапуска 99% для орла и 1% для решки, то шансы упадут с 1:1 до 99:1 в пользу решки. Представим, что вы нашли загадочную машину, выплёвывающую деньги и хотите максимизировать их количество. В этом случае стоит изменить вероятности перезапуска так, чтобы они уменьшались в случае увеличения количества денег. Например, для выплюнутых 10 долларов назначить вероятность перезапуска 99,999999%, а для 100 долларов --- 99,99999%. В итоге вы получите исход, стремящийся к наивысшему возможному значению в функции будущего, даже не зная, какой максимум допустим. Alaric 25.09.19 в 15:42 |
||
|
И вот вы в отчаянии выхватываете из кармана Помпу исходов -- ведь ваша мать всё ещё в горящем здании, помните? -- и пытаетесь описать свою цель: вытащить мать из здания! sepremento 19.09.19 в 09:32 И вот вы в отчаянии выхватываете из кармана Помпу исходов --- ваша мать всё ещё в горящем доме, помните? --- и пытаетесь описать свою цель: вытащить мать из этого дома! Alaric 25.09.19 в 15:43 |