Условие
Есть одно наблюдение Y∼N(0,1/(1−θ²)). Найдите оценку максимального правдоподобия θ и оцените её дисперсию. В источнике ответа нет. Ниже разобрана допустимая область −1<θ<1 и неоднозначность самого оценивания.
Сначала оцениваем дисперсию
Обозначим v=1/(1−θ²). Возможны ровно v≥1. Логарифм правдоподобия одного наблюдения y равен, с точностью до константы, −(1/2)lnv−y²/(2v).
Без ограничения максимум был бы при v=y². С учётом v≥1 получаем v̂=max(1,y²).
Возвращаемся к θ
Если |y|≤1, v̂=1 и единственный максимизатор θ̂=0. Если |y|>1, одинаковое максимальное правдоподобие имеют два значения:
θ̂=±√(1−1/y²).
Распределение наблюдения зависит только от θ². Поэтому данные не позволяют различить θ и −θ даже при увеличении числа наблюдений. Это отсутствие идентифицируемости знака, а не просто большая случайная ошибка.
Почему нельзя дать одну точную дисперсию без соглашения
Множество максимизаторов ещё не задаёт единственную статистику. Можно всегда выбирать положительный корень, всегда отрицательный или выбирать знак по правилу, использующему наблюдение. Такие правила могут иметь разные распределения и дисперсии. Поэтому постановка требует определить конкретную оценку прежде, чем обсуждать её дисперсию.
После ограничения θ≥0 и выбора неотрицательного корня оценка ограничена интервалом [0;1), её дисперсия конечна. Но одного наблюдения недостаточно, чтобы обоснованно заменить её точную дисперсию обычной большой-выборочной формулой.
Формальная информационная проверка
Вне θ=0 информация на наблюдение равна 2θ²/(1−θ²)². Её обратная величина — не точная дисперсия оценки по одному наблюдению. В точке θ=0 информация по этой параметризации нулевая, и стандартное регулярное нормальное приближение особенно неприменимо.
Таким образом, максимум можно выписать точно, но универсальный единственный ответ на вторую часть не следует из исходной формулировки. Это ограничение отмечено, а не скрыто произвольной подстановкой.
Б. Демешев и участники · statistics_pro, 5.7 · CC0 1.0. Условие источника; разбор и ограничения редакции.