DamiRocK

Байесовская оценка бинарного индикатора: Beta–Bernoulli posterior

При p~Beta(a,b) и k единицах из n наблюдений posterior равен Beta(a+k,b+n−k). Предиктивная вероятность следующей единицы — (a+k)/(a+b+n).

Модель

Наблюдаются независимые бинарные Xᵢ∼Bernoulli(p). Априорно p∼Beta(a,b). В выборке k единиц и n−k нулей. Найдите posterior и прогноз следующего исхода.

Правдоподобие

С точностью до константы L(p)∝p^k(1−p)^{n−k}.

Апостериорное распределение

Умножение на Beta-плотность p^{a−1}(1−p)^{b−1} даёт

p|data ∼ Beta(a+k, b+n−k).

Точечные характеристики

Апостериорное среднее:

E(p|data)=(a+k)/(a+b+n).

При a+k>1 и b+n−k>1 мода:

(a+k−1)/(a+b+n−2).

Предиктивная вероятность

P(X_{n+1}=1|data)=E[p|data], то есть (a+k)/(a+b+n). Поэтому posterior mean имеет непосредственную интерпретацию как вероятность следующего успеха.

При равномерном prior Beta(1,1) получаем правило (k+1)/(n+2). Это не то же самое, что ММП k/n, хотя при большом n различие исчезает.

HSE KNAD Statistics 2024–2025 · ha-03 · закреплённый источник · CC0 1.0. Редакционное решение темы задания.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.