Условия
ℓ(θ)=a−(1/2)(θ−h)ᵀQ(θ−h), θ=(θ₁,θ₂)ᵀ, Q=[[A,B],[Bᵀ,C]]. Найдите неограниченную и ограниченную оценки при H₀:θ₁=θ₁⁰, затем LR, LM и W. Связанное задание применяет результат к y=Xβ+u с нормальными ошибками и известной Var(u)=I.
Ключ источника
θ̂_UR=h. Обозначив d=θ₁⁰−h₁, получаем θ̂_R=(θ₁⁰,h₂−C⁻¹Bᵀd)ᵀ и
LR=LM=W=dᵀ(A−BC⁻¹Bᵀ)d.
Редакционная оговорка о максимуме
Одной симметричности Q, указанной в общей постановке, недостаточно для единственного максимума. Здесь требуется положительная определённость Q; тогда C и дополнение Шура обратимы и положительно определены. При неопределённой Q формула h не обязана быть максимумом.
Почему три формулы совпадают
Ограничение θ₁ фиксирует смещение d, а минимизация по θ₂ исключает второй блок, оставляя квадратичную форму дополнения Шура. Градиент линейный, информация постоянна, поэтому подстановка в ограниченную или неограниченную точку не меняет её. Разность логарифмов, score-тест и квадратичное отклонение оценки дают одну величину.
Применение к регрессии
При полном ранге X h=(XᵀX)⁻¹Xᵀy, Q=XᵀX. Для q линейных ограничений общая статистика равна SSR_R−SSR_UR и при H₀ имеет χ²_q. Обычная F-статистика дополнительно делит эту разность на q и на s²=SSR_UR/(n−k), то есть χ²-статистика=q s²F.
При проверке всех наклонов в модели с константой разность SSR равна ESS. Если дисперсия неизвестна и оценивается, полное правдоподобие уже не имеет ту же постоянную квадратичную форму по всем параметрам сразу.
Борис Демешев и участники · Общая формула, регрессионное задание · CC BY 4.0. Условие максимума уточнено; применение дополнено.