Условие
X₁,…,Xₙ независимы и экспоненциально распределены с интенсивностью λ>0. Найдите оценки λ методами моментов и максимального правдоподобия, затем оцените дисперсию оценки правдоподобия. В источнике решение не заполнено; далее — редакционный вывод.
Метод моментов
Среднее времени X равно 1/λ. Приравнивая X̄ этому среднему, получаем λ̂MM=1/X̄. Интенсивность имеет обратные единицы времени; само X̄ оценивает среднее время, а не интенсивность.
Правдоподобие
При положительных наблюдениях логарифм правдоподобия равен nlnλ−λΣXᵢ. Производная n/λ−ΣXᵢ обращается в ноль при λ̂ML=n/ΣXᵢ=1/X̄. Вторая производная отрицательна, поэтому максимум единственен почти наверное.
Асимптотическая дисперсия
Информация Фишера на одно наблюдение равна 1/λ². При большом n оценка приближённо имеет распределение N(λ,λ²/n). Подстановочная оценка дисперсии равна λ̂²/n, стандартной ошибки — λ̂/√n.
Конечная выборка
Сумма T=ΣXᵢ имеет гамма-распределение формы n и интенсивности λ. Поэтому при n>1 E(n/T)=nλ/(n−1), а при n>2 Var(n/T)=n²λ²/[(n−1)²(n−2)].
Значит, совпадение метода моментов и правдоподобия не делает оценку несмещённой. Обратное выборочное среднее в среднем больше обратного истинного среднего. При n>1 величина (n−1)/T несмещённо оценивает λ, но это уже другая оценка.
Границы применимости
При n=1 ожидание обратного наблюдения бесконечно, при n=2 точная дисперсия оценки бесконечна. Нормальное приближение предназначено для больших выборок и не должно использоваться как утверждение о точных моментах при любом n.
Б. Демешев и участники · statistics_pro, 5.4 · CC0 1.0. Условие источника; решение и проверки редакции.