DamiRocK

Известная дисперсия ошибки: почему LR, LM и Вальд равны 625

Регрессия без константы с Σx²=100, Σxy=250 и Σy²=900. Оценка 2,5 и три одинаковые статистики проверки β=0.

Условие

В модели yᵢ=βxᵢ+uᵢ ошибки независимы N(0,1). Для 100 наблюдений Σx²=100, Σy²=900, Σxy=250. Найдите ℓ(β), максимизатор, информацию Фишера и статистики LR, LM, W проверки β=0.

Правдоподобие и оценка

ℓ(β)=−(n/2)log(2π)−(1/2)Σ(yᵢ−βxᵢ)². В ключе знак постоянного нормировочного члена напечатан иначе; на максимизатор и разность логарифмов он не влияет, но здесь дан корректный логарифм плотности.

β̂=Σxy/Σx²=2,5, score s(β)=Σxy−βΣx², информация I(β)=Σx²=100.

Общая формула трёх тестов

Для H₀:β=β₀ разность остаточных сумм равна (β̂−β₀)²Σx². Поэтому LR=LM=W=(β̂−β₀)²Σx². Информация постоянна, так что её подстановка в ограниченной или неограниченной точке не меняет результат.

Проверка по данным

SSR_UR=900−250²/100=275, SSR_R=900. Разность равна 625, как и 2,5²·100. Следовательно, все три статистики равны 625 — ответ источника.

При нулевой гипотезе и фиксированных x эта величина имеет точное χ²₁-распределение: стандартизированная оценка β̂ нормальна. Порог 5% около 3,841459 многократно превышен, H₀ отвергается.

Что существенно в условии

Дисперсия ошибок известна и равна единице. Если вместо неё оценивать σ² по остаткам, классические LR, LM и W уже не обязаны совпадать численно; появятся другие нормировки и конечновыборочные сравнения. Данная страница не переносит равенство на ту иную модель.

Борис Демешев и участники · Исходное задание и ответ · CC BY 4.0. Константа логарифма исправлена; статистики сохранены.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.