Light-industry-up.ru

Экосистема промышленности

Максимальная апостериорная гипотеза

09-10-2023

Перейти к: навигация, поиск

В статистике метод оценки с помощью апостериорного максимума (MAP) тесно связан с методом максимального правдоподобия (ML), но дополнительно при оптимизации использует априорное распределение величины, которую оценивает.

Содержание

Введение

Предположим, что нам нужно оценить неконтролируемый параметр выборки на базе наблюдений . Пусть - выборочное распределение , такое, что - вероятность в то время как параметр выборки . Тогда функция

известна как функция правдоподобия, а оценка

как оценка максимального правдоподобия .

Теперь, предположим, что априорное распределение на существует. Это позволяет рассматривать как случайную величину как в Байесовской статистике. тогда апостериорное распределение :

где плотность распределения , - область определения . Это прямое приложение Теоремы Байеса.

Метод оценки максимального правдоподобия затем оценивает как апостериорное распределение этой случайной величины:

\hat{\theta}_{\mathrm{MAP}}(x)
= \arg\max_{\theta} \frac{f(x | \theta) \, g(\theta)}
  {\int_{\Theta} f(x | \theta') \, g(\theta') \, d\theta'}
= \arg\max_{\theta} f(x | \theta) \, g(\theta)
\!

Знаменатель апостериорного распределения не зависит от и поэтому не играет роли в оптимизации. Заметим, что MAP оценка соответствует ML оценке когда априорная постоянна (т.е., константа).

Пример

Предположим, что у нас есть последовательность i.i.d. случайных величин и априорное распределение задано . Мы хотим найти MAP оценку .

Функция, которую нужно максимизировать задана

что эквивалентно минимизации в

Таким образом, мы видим, что MAP оценка для μ задана

См. также

Литература

  • DeGroot, Morris H. Optimal Statistical Decisions. McGraw-Hill. 1970.
  • Harold W. Sorenson. Parameter Estimation: Principles and Problems. Marcel Dekker. 1980.

Максимальная апостериорная гипотеза.

© 2014–2023 light-industry-up.ru, Россия, Краснодар, ул. Листопадная 53, +7 (861) 501-67-06