Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: Lost Purposes
| Английский оригинал | Перевод на русский | |
|---|---|---|
Сожалеем, но текст оригинала доступен только зарегистрированным пользователям. |
То ли в детском саду, то ли в первом классе мне впервые сказали помолиться и дали транскрипцию молитвы на иврите. Я спросил, что означали слова. И мне сказали, что если молиться на иврите, то можно не знать значений слов и молитва сработает. sepremento 25.09.19 в 04:38 То ли в детском саду, то ли в первом классе мне впервые сказали помолиться и дали молитву на иврите, записанную латиницей. Я спросил, что означают эти слова. Мне ответили, что если молиться на иврите, можно не знать значения слов, молитва всё равно сработает. Alaric 21.10.19 в 15:36 |
|
|
Это стало началом конца моих отношений с иудаизмом. sepremento 25.09.19 в 04:38 Мой разрыв с иудаизмом начался именно с этого. Alaric 21.10.19 в 15:37 |
||
|
Пока вы это читаете, какой-то молодой человек или девушка сидит за партой в университете и внимательно изучает материал, который сам по себе не интересен и которым впоследствии никогда не воспользуется. Им нужна высокооплачиваемая работа, а она требует кусочек бумаги, а кусочек бумаги требует степень магистра, а до степени магистра нужно получить степень бакалавра, а университет, который предлагает степень бакалавра, требует, чтобы вы посетили занятия по узорам вязания двенадцатого века для её получения. И вот, они с усердием занимаются, но мгновенно забудут всё после сдачи экзамена. И всё равно выбрасывают время на эту работу, потому что очень хотят листочек бумаги. sepremento 25.09.19 в 04:43 Прямо сейчас, когда вы читаете эти строки, какой-нибудь студент сидит за партой в университете и старательно изучает материал, который ему сам по себе не интересен и который, по его мнению, ему никогда не пригодиться. Студенту нужна высокооплачиваемая работа, а она требует кусочек бумаги, а кусочек бумаги требует степень магистра, а до степени магистра нужно получить степень бакалавра, а университет, который предлагает степень бакалавра, требует, чтобы для её получения вы посетили занятия по узорам вязания двенадцатого века. И студент прилежно изучает эти узоры. Он планирует забыть про них сразу же после сдачи экзамена, но тем не менее всерьёз возится с ними, потому что ему очень нужен этот кусочек бумаги. Alaric 21.10.19 в 15:44 |
+1 | |
|
Возможно, сумасшествие ситуации, но всё равно участвовали в ней. Выбора ведь не было, правильно? Недавнее исследование в Сан-Франциско показало, что 80% преподавателей в K-5 тратили менее одного часа в неделю на науку, а 16% заявили, что совсем не уделяют время науке. Почему? Сдаётся мне, что ближайшей причиной можно назвать законодательные инициативы вроде "не оставить в беде ни одного ребёнка". Буквально всё время теперь уделяется подготовке к обязательным тестам на федеральном уровне или уровне штата. Кажется, я припоминаю (но не могу найти источник), что только прохождение обязательных тестов занимает 40% времени в школе. sepremento 26.09.19 в 05:41 Я уверен, что вы и сами оказывались в такой ситуации. Возможно, даже понимая её сумасшествие. Ведь у вас не было выбора, верно? Недавнее исследование в Сан-Франциско показало, что 80% учителей в начальной школе тратят меньше одного часа в неделю на науку. 16% заявило, что они совсем не уделяют время науке. Почему? Насколько я могу судить, в этом виноват акт "No Child Left Behid" и другие ему подобные законодательные инициативы["No Child Left Behid" (буквально: "ни один ребёнок не окажется отстающим") --- федеральный закон США в области образования, принятый в 2001 году. Одним из его требований было проведение достаточно большого количества тестов для отслеживания прогресса детей. В 2015 году был отменён. --- Прим.перев.]. Практически всё время уроков теперь уходит на подготовку к обязательным тестам федерального уровня или уровня штата. Кажется, где-то утверждалось (хотя сейчас я не могу найти источник), что в какой-то школе на одно лишь проведение обязательных тестов уходило 40% времени уроков. Alaric 24.10.19 в 15:39 |
+2 | |
|
Прежняя советская бюрократия славилась своим стремлением к внешним проявлениям, а не сути. Одна из обувных фабрик перевыполнила план, произведя огромное количество обуви маленького размера. Другая фабрика отчиталась о раскроенной, но не сшитой коже, как об "обуви". Начальство не было заинтересовано в настоящих результатах, поскольку им тоже нужно было всего лишь доложить о перевыполнении планов. А всё это приводило к тому, что у товарищей мёрзли ноги. sepremento 26.09.19 в 05:46 Своим стремлением заботиться о внешних проявлениях, а не о сути, славилась советская бюрократия. Одна обувная фабрика перевыполнила план, произведя много обуви маленького размера. Другая фабрика отчиталась о раскроенной, но не сшитой коже, как об "обуви". Настоящие результаты начальство не интересовали, ведь ему тоже нужно было лишь доложить о перевыполнении планов. Что наверняка радовало товарищей, у которых мёрзли ноги. Alaric 24.10.19 в 15:43 |
||
|
Из нескольких источников уже следует, что большая часть публикуемых исследований в медицине ложны, несмотря на "статистическую значимость p < 0.05". Но раз p < 0.05 является единственным критерием для публикации, зачем кому-либо ставить себе более высокие планки? Ведь это потребует больших грантов на исследования и больших размеров выборок, а также уменьшает шансы на публикацию. Всем ведь известно, что сама суть науки в том, чтобы опубликовать как можно больше статей, точно так же, как суть университетов -- печатать кусочки бумаги, а суть школ -- проходить обязательные тесты, которые позволят получить большее финансирование. Не вы устанавливаете правила, а если попытаетесь играть по иным, то проиграете. sepremento 26.09.19 в 05:52 Несколько разных источников уже утверждают, что большая часть публикуемых медицинских исследований неверны, несмотря на "статистическую значимость p < 0,05". Но зачем кому-то ставить себе более высокую планку, если p < 0,05 --- единственный критерий для публикации? Ведь это потребует больших грантов на исследования и больших размеров выборок, а также уменьшит шансы на публикацию. Всем же известно, что смысл существования науки --- опубликовать как можно больше статей. Точно так же, как смысл существования университетов --- печатать кусочки бумаги определённого вида, а смысл существования школ --- проходить обязательные тесты, позволяющие получить большее финансирование. Не вы устанавливаете правила. Если вы попробуете играть по другим, вы проиграете. Alaric 24.10.19 в 15:50 |
+2 | |
|
(По какой-то причине физические научные журналы требуют p < 0.0001. Они как будто считают, что есть какая-то иная причина существования кроме публикации физических научных статей.) sepremento 26.09.19 в 05:53 (Впрочем, почему-то научные журналы по физике требуют p < 0,0001. Словно они считают, будто у них есть какой-то иной смысл существования, кроме публикации научных статей по физике.) Alaric 24.10.19 в 15:53 |
||
|
В магазине есть шоколадка, туда нужно добраться на машине, для этого нужно в неё попасть, а это означает необходимость открыть дверь машины, а это требует ключей. Если вы узнаете, что шоколадки в магазине нет, вы не будете стоять около машины и хлопать дверью просто потому, что это необходимо. Вообще, люди редко теряют нить своих собственных планов. sepremento 26.09.19 в 05:55 В супермаркете есть шоколад, туда можно попасть на машине, в машину нужно попасть, для этого нужно открыть дверь, а для этого нужны ключи. Если вы узнаете, что в супермаркете шоколада нет, вы не будете стоять около машины и хлопать дверью просто потому, что так надо. По-моему, люди редко теряют нить ими же придуманных планов. Alaric 28.10.19 в 21:10 |
||
|
Совсем другое дело, когда стимулы должны проходить через большие организации или, хуже того, множество организаций и групп интересов, часть из которых -- правительственные. Тогда можно обнаружить линии поведения, которые обозначали бы откровенное безумие, если бы их придумал один человек. Если кому-то платят за каждый раз, когда открывается дверь автомобиля и это единственная метрика, то ему наплевать, получит ли водитель деньги за прибытие в магазин и уж тем более наплевать, купит ли покупатель шоколад и будет ли счастлив потребитель. sepremento 26.09.19 в 06:00 Когда стимулы проходят через крупные организации или, что ещё хуже, через множество организаций и групп интересов, часть из которых правительственные, получается совсем по-другому. Иногда в результате получается такое поведение, что спланируй его какой-то один человек, то этого человека объявили бы безумным. Кому-нибудь платят каждый раз, когда он открывает дверь машины, поскольку именно это является измеряемой метрикой, и этому человеку наплевать, заплатят ли водителю за прибытие в супермаркет, и уж тем более наплевать, купит ли покупатель шоколад и будет ли потребитель счастлив или умрёт с голода. Alaric 28.10.19 в 21:33 |
||
|
С позиций Байесианства, подзадачи являются эпифеноменом функций условных вероятностей. Не бывает ожидаемой полезности без полезности. Очень глупо считать, что инструментальная ценность может начать жить своей жизнью, а терминальная ценность -- отмереть за ненадобностью. Это неразумно по меркам разумности теории принятия решений. sepremento 26.09.19 в 06:03 С точки зрения байесианства, подзадачи --- это эпифеномен для функции условных вероятностей. Ожидаемой полезности без полезности не бывает. Очень глупо считать, что инструментальная ценность может начать жить своей жизнью, а терминальная ценность --- отмереть за ненадобностью. Это неразумно по меркам разумности теории принятия решений. Alaric 28.10.19 в 21:35 |
||
|
Подумайте о законе детей. Политики желали выглядеть, будто они занимаются смягчением бремени образования, они изображали бурную деятельность, чтобы впечатлить избирателей в текущем году, а не через пятнадцать лет, когда дети будут искать себе работу. Политики не являются потребителями образовательных услуг. Бюрократы обязаны продемонстрировать развитие, а это значит, что они заинтересованы в развитии, которое можно измерить только в этом году. Это не они в конечном итоге окажутся невежами. Издательства, создающие комиссии по учебникам и школьные комитеты, которые эти учебники покупают, не будут скучать за партами. sepremento 27.09.19 в 04:54 Рассмотрим закон "No Child Left Behid". Политики хотели создать впечатление, будто они занимаются проблемами образования. Они изображали бурную деятельность, чтобы повлиять на избирателей в текущем году, а не пятнадцать лет спустя, когда сегодняшние дети будут искать работу. Политики не являются потребителями образовательных услуг. Бюрократы обязаны продемонстрировать развитие, а это значит, что они заинтересованы в развитии, которое можно измерить именно в этом году. Это не они в конечном итоге ничего не узнают о науке. Издательства, выпускающие учебники, и школьные комитеты, которые эти учебники покупают, не будут скучать за партами. Alaric 28.10.19 в 21:42 |
||
|
Настоящими потребителями знаний оказываются дети, а они не могут платить, не могут голосовать и не могут участвовать в комитетах. Родители о них заботятся, но не сидят вместо них в классах, они лишь спрашивают с политиков по их "рвению к образованию". Политики слишком заняты своим последующим переизбранием, чтобы изучать данные самостоятельно, поэтому опираются на поверхностные сведения от бюрократов и комиссий -- так они кажутся заботливыми, но детям от этого лучше не становится. Бюрократы не используют учебники, поэтому им плевать, что их невозможно читать, важно, чтобы процесс покупки учебников хорошо выглядел со стороны. У издателей нет стимула выпускать плохие учебники, но им известно, что школьные комитеты сравнивают учебники на основании количества тем для занятий и комитет четвертого класса не связан с комитетом третьего, поэтому впихивают в каждый учебник как можно больше разных тем. Учителя не проходят и четверти учебника до конца года, а следующий преподаватель начинает сначала. Учителя могут жаловаться, но не им принимать решения и вообще не их будущее стоит на кону, а это накладывает жесткие ограничения на их желание прикладывать усилия, за которые им не заплатят. sepremento 27.09.19 в 05:04 Настоящие потребители знаний --- это дети. А они не могут платить, не могут голосовать, не могут заседать в комитетах. Родители о них заботятся, но они не сидят в классах, они лишь выбирают политиков на основании созданных теми образов "борцов за образование". Политики слишком заняты вопросом последующего переизбрания и не изучают данные самостоятельно, поэтому они полагаются на поверхностные сведения от бюрократов и комиссий. Это помогает создать образ заботы о детях, но детям от этого лучше не становится. Бюрократы не используют учебники, поэтому им плевать, что их невозможно читать, важно, чтобы процесс покупки учебников хорошо выглядел со стороны. У издателей нет стимула выпускать плохие учебники, но им известно, что школьные комитеты сравнивают учебники на основании количества тем для занятий, а комитет четвертого класса не связан с комитетом третьего, поэтому издатели впихивают в каждый учебник как можно больше разных тем. Учитель со своим классом не проходит и четверти учебника до конца года, поэтому на следующий год другой учитель начинает всё заново. Учителя могут жаловаться, однако решения принимают не они и вообще не их будущее стоит на кону, что в свою очередь влияет на желание прикладывать усилия, за которые всё равно не заплатят. Alaric 01.11.19 в 15:29 |
||
|
Когда рассмотришь ситуацию с такого ракурса и увидишь всю потерянную информацию и потерянные стимулы, становится удивительно, как мало остаётся от исходной цели, получения знаний. Впрочем, большинство образовательных систем сейчас приходят к состоянию чуть лучше, чем ничего. sepremento 27.09.19 в 05:07 Если рассмотреть ситуацию с такого ракурса, задуматься обо всей потерянной информации и всех потерянных стимулах, становится даже удивительно, что от исходной цели --- получения знаний --- остаётся хоть что-то. Впрочем, судя по всему, большинство образовательных систем сейчас скатываются в состояние, которое не намного лучше, чем ничего. Alaric 01.11.19 в 15:32 |
||
|
Хотите решить проблему по-настоящему? Заставьте политиков ходить в школу. sepremento 27.09.19 в 05:07 |
||
|
Один человек способен отследить вероятностное ожидание полезности по пути её течения через множество промежуточных событий, вплоть до нелокальных зависимостей, то есть мест, где ожидаемая полезность открытия двери автомобиля зависит от наличия шоколада в магазине. Но организации вознаграждают сегодня только за то, что может быть измерено сегодня, что может быть записано в контракте сегодня, а это означает измерение промежуточных событий, а не их дальнейших последствий. Эти промежуточные измерения, в свою очередь, являются дырявыми обобщениями и часто очень дырявыми. Бюрократы это джинны, которым нельзя доверять, ведь они не разделяют ценностей желающего. sepremento 27.09.19 в 05:11 Один человек способен отследить, как будет меняться вероятностная ожидаемая полезность в зависимости от условий, связанных со множеством промежуточных событий. Он может учесть нелокальные зависимости, где ожидаемая полезность открытия двери автомобиля зависит от наличия шоколада в супермаркете. Однако организации сегодня вознаграждают только за то, что измеримо сегодня, за то, что можно записать в контракте сегодня, а это означает измерение промежуточных событий, а не их долгосрочных последствий. И эти промежуточные измерения являются дырявыми обобщениями --- зачастую очень дырявыми. Бюрократы это джинны, которым нельзя доверять, ведь они не разделяют ценностей желающего. Alaric 01.11.19 в 15:38 |
||
|
Миямото Мусаси сказал: sepremento 27.09.19 в 05:11 |
+1 | |
|
Помни, когда в твоих руках меч — ты должен поразить противника, чего бы тебе это ни стоило. Когда ты парируешь удар, наносишь его, делаешь выпад, отбиваешь клинок или касаешься атакующего меча противника, ты должен сразить противника тем же движением. Достигай цели. Если ты будешь думать только о блокировании ударов, выпадах и касаниях, ты не сможешь действительно достать врага. Более, чем о чем бы то ни было, ты должен беспокоиться о том, как провести свой удар сквозь его защиту и достичь цели. Тщательно изучи сказанное. sepremento 27.09.19 в 05:14 |
+2 | |
|
(Хотел бы я жить в эпоху, когда можно сказать читателям тщательно что-то изучить и никого при этом не оскорбить.) sepremento 28.09.19 в 05:57 |
+1 | |
|
Как можно потерять свою цель во время поединка на мечах? Если кто-то другой учил сражаться, если искусство не выработано изнутри, можно не понимать причин парировать удар или сделать выпад, можно не понять, когда у правил появляются исключения, не увидеть, когда привычный метод не сработает. sepremento 28.09.19 в 05:59 Каким образом кто-нибудь может забыть о своей цели в поединке на мечах? Например, он мог учиться сражаться у кого-то другого, искусство не появилось у него изнутри, и он не понимает причин, почему такой-то ситуации ему нужно парировать, а в другой --- делать выпад. Он не понимает, когда у правил появляются исключения, когда привычный метод не работает. Alaric 02.11.19 в 10:17 |
||
|
Неотъемлемой частью искусства эпистемической рациональности является понимание, как каждое правило поражает цель и приближает к истине. Соответствующая часть практической рациональности, теории принятия решений -- понимание, как каждая каждая ожидаемая полезность приближает к полезности. Тщательно изучи это. sepremento 28.09.19 в 06:02 Искусство эпистемической рациональности немыслимо без понимания, как каждое правило приближает нас к истине в соответствии с теорией вероятности. Суть практической рациональности --- теория решений --- в том, чтобы всегда видеть, как ожидаемая полезность приводит к полезности. Тщательно изучи сказанное. Alaric 02.11.19 в 10:21 |
||
|
К. Дж. Черри однажды сказала: sepremento 28.09.19 в 06:03 |
||
|
Нет клинка у твоего меча. У него есть лишь твоё намерение. Когда оно пропадает, ты становишься безоружным. sepremento 28.09.19 в 06:03 Нет клинка у твоего меча. У него есть лишь твоя цель. Потерял цель --- остался безоружным. Alaric 03.11.19 в 14:51 |
+2 | |
|
Я видел, как много людей сбивались с толку, формулируя желание воображаемому ИИ-джинну, представляя желание за желанием, иногда с множеством оговорок-уточнений, а иногда и вовсе без каких-либо предосторожностей. Они не восходили к мета-уровню. Они не зрили в корень, у них не возникал тот инстинкт, что заставил меня свернуть на дорогу атеизма в пять лет. Они не задавались вопросом: "Почему это желание кажется мне хорошим? Рассудит ли джинн таким же образом?". Они не искали источников своих суждений, считая, что сами их создали. Они увели глаза от мяча, понимали, что мяч отскочил от пола, но не смотрели, откуда он летел -- в сторону критерия своих суждений. sepremento 28.09.19 в 06:11 Я видел множество людей, забывавших о цели, когда они формулировали желание воображаемому ИИ-джинну. Они представляли желание за желанием, и они не видели в своих желаниях ничего плохого. Некоторые из желаний сопровождались множеством уточнений, другие формулировались вовсе без каких-либо предосторожностей. Эти люди не выходили на мета-уровень. Они не сверялись инстинктивно с целью, у них не было того инстинкта, что заставил меня в пять лет свернуть на дорогу атеизма. Они не задумывались над вопросом: "Почему это желание кажется мне хорошим? А джинн тоже будет так считать?" Они не видели, откуда берётся их суждение, они слишком увлекались самим суждением. Они не следили за мячом --- они знали, что мяч отскочил от пола, но не обращали внимание, в каком именно месте он отскочил. Они не думали о критериях, которые породили их суждение. Alaric 04.11.19 в 21:14 |
||
|
Похожим образом некоторые люди не замечают, как предположительно эгоистичные люди предлагают альтруистичные аргументы в пользу эгоизма, а предположительно альтруистичные люди -- эгоистичные аргументы в пользу альтруизма. sepremento 28.09.19 в 06:12 |
||
|
Люди могут прекрасно отслеживать свои цели по дороге в магазин, когда весь проект находится внутри их головы и им не мешают ни бюрократы, ни джинны, ни философия. Проблема в том, что цивилизация гораздо сложнее. Десятки организаций и десятки лет разделяют скучающего ребёнка в классе и выпускника колледжа, который не справляется со своей работой (Заметит ли менеджер или кадровик, что выпускник колледжа прекрасно умеет выглядеть занятым?) С каждым новым звеном цепи между действием и последствием появляется возможность сбиться с настоящей цели. С каждым промежуточным звеном теряется информация, теряются стимулы. А большинство людей беспокоятся из-за этого гораздо меньше, чем я, иначе почему все мои одноклассники с готовностью читали молитвы, не зная их смысла? У них не было того же инстинкта зрить в корень. sepremento 28.09.19 в 06:20 Люди прекрасно отслеживают свои цели по дороге в супермаркет: когда весь процесс находится у них в голове и им не мешают ни бюрократы, ни джинны, ни философия. Проблема в том, что цивилизация гораздо сложнее. Десятки организаций и десятки лет разделяют скучающего ребёнка в классе и выпускника колледжа, который не справляется со своей работой (Заметит ли менеджер или кадровик, что выпускник колледжа прекрасно умеет выглядеть занятым?) С каждым новым звеном цепи между действием и последствием появляется возможность сбиться с настоящей цели. С каждым промежуточным звеном теряется информация, теряются стимулы. А большинство людей беспокоятся из-за этого гораздо меньше, чем я. Почему все мои одноклассники с готовностью читали молитвы, не зная их смысла? У них не было моего инстинкта искать причину. Alaric 04.11.19 в 21:18 |
||
|
Можно ли научить не спускать глаз с мяча? Удерживать намерение и не позволять ему сбиваться? Никогда не делать выпада, удара или касания без понимания главной цели? Часто люди лишь хотят делать свою работу при прочих равных. Может ли вообще существовать корпорация со здравым рассудком? Здравая цивилизация? Именно к этому я стремлюсь в эссе на тему потока намерений (также известных как ожидаемая полезность или инструментальные ценности) без потери целей (также известных как полезности или терминальные ценности), но пока это лишь далёкая мечта. Могут ли люди чувствовать поток от целей-"родителей" к целям-"детям"? Понимать осознанно разницу между ожидаемой полезностью и полезностью? sepremento 28.09.19 в 06:25 Можно ли научить не спускать глаз с мяча? Удерживать намерение и не позволять ему сбиваться? Никогда не делать выпада, удара или касания без понимания главной цели? При прочих равных условиях люди зачастую хотят лишь делать свою работу. Может ли вообще существовать здравомыслящая корпорация? Здравомыслящая цивилизация? Пока это лишь далёкая мечта, но именно к ней я стремлюсь, когда пишу все эти эссе про поток намерений (также известных как ожидаемая полезность или инструментальные ценности) без потери цели (полезности или терминальной ценности). Могут ли люди научиться чувствовать поток от целей-"родителей" к целям-"детям"? Осознанно понимать разницу между ожидаемой полезностью и полезностью? Alaric 04.11.19 в 21:25 |
||
|
Думаете ли вы об угрозах вашей цивилизации? Худшая мета-угроза цивилизации --- её собственная сложность. Усложнение ведёт к потере множества целей. sepremento 28.09.19 в 06:26 |
+1 | |
|
Глядя в своё прошлое, я понимаю, что больше чем остальным, моя жизнь управлялась ненавистью к потерянным целям. Надеюсь, что этот навык можно тренировать. sepremento 28.09.19 в 06:28 Я оглядываюсь назад и понимаю, что сильнее всего мною в жизни двигало отвращение к потерянным целям. Надеюсь, это отвращение можно превратить в тренируемый навык. Alaric 04.11.19 в 21:31 |