Rationality: From AI to Zombies / Рациональность: от ИИ до Зомби: An Intuitive Explanation of Bayes’s Theorem

Вероятность P(A,B) равна P(B,A), но вероятность P(A|B) не равна P(B|A) и уж точно P(A,B) не равна P(A|B). Довольно часто эти вероятности путают.

sepremento 05.01.20 в 04:54

Чтобы познакомиться поближе с этими величинами и отношениями между ними, сыграем в "слежку за степенями свободы". Например, две величины P(рак) и P(¬рак) имеют 1 степень свободы между ними, поскольку P(A) + P(¬A) = 1. Если Вы знаете, что P(¬рак) = .99, Вы можете получить P(рак) = 1 - P(¬рак) = .01.

sepremento 05.01.20 в 04:56

P(положительный|рак) и P(¬положительный|рак) тоже имеют между собой только одну степень сводобы; каждая женщина с раком груди может либо получить положительную маммограмму, либо не получить. С другой стороны, P(положительный|рак) и P(положительный|¬рак) связаны двумя степенями свободы. Вы можете можете иметь тест, который дает положительный результат для 80% больных раком и для 9.6% здоровых, или тест, дающий 70% для больных и 2% для здоровых, или даже тест, возвращающий "положительный" результат для 30% больных раком и для 92% здоровых. Две эти величины - результаты теста для больных и для здоровых - математически независимы; ни одна из них не может быть вычислена на основании другой каким-либо способом, и это означает, что они имеют две степени свободы между собой.

sepremento 05.01.20 в 04:58

Что насчёт P(положительный, рак), P(положительный|рак) и P(рак)? У нас здесь три величины, сколько же степеней свободы? В этом случае должно соблюдаться уравнение:

sepremento 05.01.20 в 04:59

P(положительный, рак) = P(положительный|рак) * P(рак).

sepremento 05.01.20 в 05:00

Это равенство уменьшает количество степеней свободы на единицу. Если мы знаем долю пациенток с раком, а также вероятность, что у пациентки с раком будет положительная маммограмма, мы можем определить долю пациенток, у которых есть рак груди и положительная маммограмма с помощью умножения.

sepremento 05.01.20 в 05:01

Аналогично, если мы знаем количество пациенток с раком груди и положительными маммограммами, а также общее число пациенток с раком груди, мы можем оценить шансы, что женщина с раком груди получит положительную маммограмму, простым делением: P(положительный|рак) = P(положительный, рак) / p(рак). Фактически, именно так и калибруют медицинские тесты; вы проводите исследование на 8520 женщинах с раком груди, получаете в результате 6816 (или около) женщин с раком груди и положительными маммограммами, после чего делите 6816 на 8250, чтобы найти 80% вероятность для женщины, больной раком, получить положительную маммограмму. (Между прочим, если Вы случайно поделите 8250 на 6816, вместо того чтобы наоборот, Ваши вычисления начнут давать странные результаты, такие как утверждение, что 125% женщин с раком груди и положительной маммограммой больны раком. По моему опыту, это довольно распространенная ошибка в расчетах по байесианской арифметике.) И в заключении, если Вы знаете P(положительный,рак) и P(положительный|рак), Вы можете вывести исходную долю больных раком пациенток. Итого, у нас две степени свободы между этими тремя величинами: если Вы знаете две из них, Вы можете рассчитать третью.

sepremento 05.01.20 в 05:04

А как связаны P(положительный), P(положительный,рак), и P(положительный,¬рак)? Снова у нас только две степени свободы для трех переменных. Уравнение, устраняющее еще одну степень свободы:

sepremento 05.01.20 в 05:05

P(положительный) = P(положительный,рак) + P(положительный,¬рак)

sepremento 05.01.20 в 05:05

Для начала, вот как рассчитывается P(положительный): мы берем количество женщин с раком груди и положительными маммограммами, прибавляем к нему количество женщин без рака груди и положительными маммограммами, и получаем вместе искомое количество женщин с положительными маммограммами. Конечно, весьма странно проводить исследования для определения числа женщин с положительными маммограммамми - только одного числа и ничего больше - но в теории Вы можете это сделать. И если потом Вы проведете другое исследование, и найдете количество с положительными маммограмми и раком груди, Вы также узнаете и количество женщин с положительными маммограммами и без рака груди --- поскольку женщина с положительной маммограммой или больна раком груди, или нет. В общем, P(A,B) + P(A,¬B) = P(A). Аналогично, P(A,B) + P(¬A,B) = P(B).

sepremento 05.01.20 в 05:08

А что у нас с P(положительный,рак), P(положительный,¬рак), P(¬положительный,рак) и P(¬положительный,¬рак)? Поначалу соблазнительно решить, что здесь только две степени свободы для четырех переменных --- что возможно, например, получить P(положительный,¬рак) через умножение P(положительный) * P(¬рак), и тогда все четыре значения могут быть найдены через две независимые переменные --- P(положительный) и P(рак). Но это не тот случай! P(положительный,¬рак) = P(положительный) * P(¬рак) верно только для двух вероятностей, которые статистически независимы --- если бы шансы, что женщина больна раком груди, никак не были бы связаны с тем, что у нее положительная маммограмма. Но как Вы уже знаете, такое возможно лишь в случае, если обе условные вероятности одинаковы - требование, которое может устранить одну степень свободы. Если Вы вспомните, что эти четыре величины являются группами A, B, C, and D, Вы сможете посмотреть на эти четыре группы и осознать, что теоретически Вы можете поместить любое число женщин в каждую из этих групп. Если Вы начнете с группы 80 женщин с раком груди и положительными маммограммами, нет никаких причин, почему Вы не могли бы добавить следующую группу из 500 женщин с раком груди и отрицательными маммограммами, затем группу из 3 женщин без рака груди и отрицательными маммограммами, и так далее. Теперь может показаться, что эти четыре величины имеют четыре степени свободы. Так оно и есть, за исключением того момента, что когда они записываются как вероятности, мы должны нормализовать их до долей единицы от общей группы, что добавит следующее ограничение: P(положительный,рак) + P(положительный,¬рак) + P(¬положительный,рак) + P(¬положительный,¬рак) = 1. Это уравнение забирает одну из степеней свободы, оставляя в итоге три степени для четырех величин. Если Вы зададите доли единицы для женщин в группах A, B, и D, Вы сможете вывести долю единицы для женщин в группе C.

sepremento 06.01.20 в 05:43

Располагая четырьмя группами A, B, C, и D, очень просто вычислить все прочее:

sepremento 06.01.20 в 05:44

P(рак) = (A + B)/(A + B + C + D),
P(¬положительный|рак) = B / (A + B),
и так далее.
Поскольку набор ABCD содержит три степени свободы, отсюда следует, что полный набор из 16 вероятностей (рассчитываемый на основе ABCD) также содержит только три степени свободы. Вспоминаем, что в наших задачах мы всегда нуждаемся в трех частях информации - одной априорной и двух условных вероятностях, - которые и в самом деле имеют три степени свободы (будучи независимыми друг от друга). Собственно, в байесианских задачах любые три величины с тремя степенями свободы будут исчерпывающе описывать ситуацию.

sepremento 06.01.20 в 05:47

Вероятность, что тест дает истинно положительный результат, деленная на вероятность, что тест дает ложноположительный результат называется степенью правдоподобия этого теста. Степень правдоподобия положительного результата показывает в итоге, насколько положительный результат теста сместит априорную вероятность. Достаточно ли одной степени правдоподобия, чтобы сказать, что мы знаем всё о полезности данного теста?

sepremento 06.01.20 в 05:50

Нет, недостаточно! Степень правдоподобия говорит всё, что требуется о значении положительного результата. Но она ничего не говорит о значении отрицательного результата, и не может сказать, как часто тест оказывается полезным. Например, маммография 80% истинно положительных и 9,6% ложноположительных результатов имеет ту же степень правдоподобия, что и тест с 8% истинно положительных и 0,96% ложноположительных результатов. Но несмотря на одинаковость степеней правдоподобия, первый тест намного более полезен --- он чаще определяет болезнь, а его отрицательный результат служит более сильным признаком здоровья.

sepremento 06.01.20 в 05:52

Предположим, что Вы используете два теста для рака один за другим --- скажем, стандартную маммографию и еще какой-нибудь тест, совершенно независимый по отношению к маммографии. Поскольку я не знаю ни одного такого теста (реально не зависящего от маммографии), я просто выдумаю такой тест для нашей задачи и назову его "Разделительный тест Темза-Брейлора", предположив, что он позволяет обнаружить, что некоторые клетки делятся быстрее чем другие. Теперь предположим, что тест Темза-Брейлора дает истинно положительные результаты для 90% пациенток с раком груди, и ложноположительные результаты для 5% здоровых пациенток. Априорная вероятность рака груди пусть будет все тот же 1%. Если пациентка получает положительные результаты маммографии и теста Темза-Брейлора, какова вероятность, что она больна раком груди?

sepremento 06.01.20 в 05:53

Один из путей решения этой проблемы - взять пересмотренную вероятность для положительной маммограммы, которую мы уже подсчитали как 7.8%, и подставить в тест Темза-Брейлора как его априорную вероятность. Если мы сделаем так, мы получим в результате 60%.

sepremento 06.01.20 в 05:53

Предположим, что априорная распространенность рака груди в группе населения составлят 1%. Предположим, что мы, как врачи, располагаем тремя независимыми тестами для рака груди. Первый тест (A) - это маммография со степенью правдоподобия в 80%/9.6% = 8.33. Второй тест (B) имеет степень правдоподобия 18.0 (например, 90% против 5%); и третий тест (C) имеет степень правдоподобия 3.5 (например 70% против 20% или 35% против 10%, что совершенно одинаково). Предположим, пациентка получила положительные результаты всех трех тестов. Какова вероятность, что у нее рак груди?

sepremento 06.01.20 в 05:54

Вот забавный трюк для упрощения расчетов. Если априорная распространенность рака груди в группе населения 1%, то 1 из 100 женщин больны раком груди, а 99 женщин здоровы. Тогда если мы перепишем вероятность в 1% как отношение шансов, отношение получится 1:99

sepremento 06.01.20 в 05:55

Теперь запишем степени правдоподобия для тестов A, B, and C:

sepremento 06.01.20 в 05:55

8.33:1 = 25:3
18.0:1 = 18:1
3.5:1 = 7:2

Шансы для женщины с раком груди, получившей положительные результаты всех трех тестов, против женщины без рака груди, также получившей положительные результаты, составят:

sepremento 06.01.20 в 05:56

(1 × 25 × 18 × 7) : (99 × 3 × 1 × 2) = 3150 : 594 .

sepremento 06.01.20 в 05:56

Чтобы вернуться от шансов к вероятностям, просто напишем:

sepremento 06.01.20 в 05:56

3150/(3150 + 594) = 84%.

sepremento 06.01.20 в 05:56

Этот прием работает независимо от способа записи отношения шансов, т.е. 8.33:1 то же самое, что 25:3 или 75:9. Также нет разницы, в каком порядке выполняются тесты, или в каком порядке подсчитываются результаты. Опять же, алгебраическое доказательство оставлено Вам в качестве упражнения.

sepremento 06.01.20 в 05:57

E. T. Jaynes в своей "Probability Theory With Applications in Science and Engineering", предлагает измерять правдоподобие и доказательность (evidence) в децибелах.

sepremento 06.01.20 в 05:57

Децибелы?

sepremento 06.01.20 в 05:57

Децибелы используются для измерения экспоненциальных различий интенсивности. Например, если звук автомобильной сирены несет в 10000 раз больше энергии (на квадратный метр в секунду), чем звонок будильника, то сирена на 40 децибел громче. Звук чириканья птицы может нести в 1000 раз меньше энергии, чем звук будильника, следоватлеьно, он будет на 30 децибел тише. Для получения количества децибел нужно взять десятичный логарифм интенсивности и умножить на 10.

sepremento 06.01.20 в 05:58

децибелы = 10 * log10 (интенсивность)

sepremento 06.01.20 в 05:58

или

sepremento 06.01.20 в 05:58

интенсивнось = 10 ^ (децибелы/10)

sepremento 06.01.20 в 05:58

Когда Вы решаете задачу с априорной вероятностью в 1%, что дает отношение шансов 1:99, и тремя тестами со степенями правдоподобия в 25:3, 18:1 и 7:2, Вы можете перемножать эти числа... или же просто складывать их логарифмы:

sepremento 06.01.20 в 05:59

10 * log10 (1/99) = -20
10 * log10 (25/3) = 9
10 * log10 (18/1) = 13
10 * log10 (7/2) = 5

Изначально достаточно маловероятно, что пациентка больна раком груди - и наш уровень правдоподобия составляет -20 децибел. Далее три теста дают результаты, соответствующие 9, 13 и 5 децибелам доказательности. Это поднимает уровень правдоподобия на 27 децибел, и в результате априорное правдоподобие в -20 превращается в апостериорные 7 децибел. Соответственно шансы изменяются с 1:99 до 5:1, а вероятность - с 1% до 83%.

sepremento 06.01.20 в 06:00

Вы - механик по игрушкам. Когда игрушка ломается, это в 30% случаев происходит из-за засорения трубки. Если трубка игрушки засорена, существует 45% вероятность, что игрушка будет искрить при попытке ее завести. Если трубка не засорена, есть только 5% шансов, что появятся искры. Покупатель принес Вам неисправную игрушку. Вы попробовали ее завести и увидели искры. Какова вероятность, что у этой искрящей игрушки засорена трубка?

sepremento 06.01.20 в 06:00

Какую последовательность арифметических операций вы проделаете для решения этой задачи?

sepremento 06.01.20 в 06:01

(45% × 30%)/(45% × 30% + 5% × 70%)

sepremento 06.01.20 в 06:01

или

sepremento 06.01.20 в 06:01

Похожим образом, для нахождения вероятности женщине с положительной маммограммой болеть раком груди, мы считали:

sepremento 06.01.20 в 06:03

P(положительный|рак) × P(рак)
P(положительный|рак)×P(рак)
+ P(положительный|¬рак) × P(¬рак)
а это в свою очередь даёт нам

sepremento 11.01.20 в 08:02

P(положительный, рак)
P(положительный, рак) + P(положительный, ¬рак)
откуда следует

sepremento 11.01.20 в 08:03

P(положительный, рак)
P(положительный)
или

sepremento 11.01.20 в 08:03

P(рак|положительный).

sepremento 11.01.20 в 08:03

В общем случае эти вычисления называются Теоремой Байеса или правилом Байеса.

sepremento 11.01.20 в 08:04

Теорема Байеса:

sepremento 11.01.20 в 08:04

P(A|X) = P(X|A) × P(A)
P(X|A) × P(A) + P(X|¬A) × P(¬A)
По отношению к некоторому явлению A, которое мы желаем исследовать, и наблюдению X, которое что-то говорит насчет A - например, A это рак груди, а X это положительный результат маммографии, - Теорема Байеса говорит нам, как мы должны изменить нашу оценку вероятности A, получив новое свидетельство X.

sepremento 11.01.20 в 08:04

К этому моменту теорема может показаться вопиюще очевидной, или даже тавтологичной, а вовсе не новой и удивительной. Если так, наше введение в тему полностью достигло своих целей.

sepremento 11.01.20 в 08:05

Теорема Байеса показывает, что превращает некий факт в "свидетельство" и позволяет измерить это свидетельство. Статистические модели оценивают, сравнивая их с методом Байеса, поскольку в статистике этот метод показывает предельный результат --- определяет максимум того, что можно получить из свидетельства, точно так же, как термодинамика определяет максимум работы, который можно получить из разницы температур. Вот почему ученые-когнитивисты говорят об агентах, рассуждающих по Байесу. В когнитивной науке такой агент это техническое кодовое слово для обозначения рационального разума.

sepremento 11.01.20 в 08:11

При детальном рассмотрении Теоремы Байеса можно усвоить некоторые общие эвристики человеческого мышления.

sepremento 11.01.20 в 08:12

Можно услышать, например, при обсуждении когнитивными психологами Теоремы Байеса, что люди не принимают во внимание априорные частоты. Это значит, что когда люди решают задачу и некое свидетельство X предполагает, что условие A может быть истинно, то они судят о вероятности A полностью по степени совпадения X событию A без учёта априорной вероятности A. Если, например, в задаче с маммограммой, вы посчитали, что вероятность женщине иметь рак груди 70-80%,тогда ваш стиль мышления нечувствителен к априорной частоте, указанной в задаче. Для такого стиля мышления нет разницы между исходными 1% и 10% женщин с раком груди в популяции. "Больше внимания априорным частотам!" - одна из многих идей, которые людям следует помнить, чтобы частично компенсировать встроенные искажения.

sepremento 12.01.20 в 06:06

Связанной ошибкой является повышенное внимание к P(X|A) и недостаточное к P(X|¬A) при определении размера свидетельства X по отношению к A. Сила свидетельства X для события A зависит не только от нашего ожидания обнаружить X, если A истинно, но также от силы утверждения, что мы не обнаружим X, если А ложно. Например, если идёт дождь, то можно ожидать, что трава мокрая --- P(мокрая трава|дождь) ≈ 1 --- но мокрая трава не обязательно означает, что шёл дождь. Возможно, был включен автополив, возможно вы смотрите на утреннюю росу. Поскольку P(мокрая трава|¬дождь) значительно больше единицы, то P(дождь|мокрая трава) существенно меньше единицы. С другой стороны, если трава мокнет только под дождём и никак иначе, тогда знание, что трава мокрая всегда даёт понять, что прошёл дождь. P(дождь|мокрая трава) ≈ 1, даже если P(мокрая трава|дождь) = 50%, то есть даже если трава становится мокрой лишь в половине случаев, когда идёт дождь. Свидетельство всегда есть результат разницы между двумя условными вероятностями. Сильное свидетельство это результат не очень высокой вероятности, что А ведёт к X, но очень низкой вероятности, что не-A могла бы привести к X.

sepremento 12.01.20 в 06:17