Условие
Василиса оценивает yᵢ=α+δ_cwᵢ+γxᵢ+ошибка. Галатея берёт те же оценки, создаёт rᵢ=yᵢ−γ̂xᵢ и оценивает r~1+w. Совпадают ли свободные члены, оценки эффекта δ, суммы квадратов остатков и обычные стандартные ошибки эффекта?
Ключ источника
μ̂=α̂; δ̂_d=δ̂_c; SSR₁=SSR₂. Стандартные ошибки, рассчитанные обычными формулами для двух разных регрессий, в общем случае не совпадают.
Редакционное доказательство
После первого МНК y=α̂1+δ̂_cw+γ̂x+û, где û ортогонален 1,w,x. Вычитание γ̂x даёт r=α̂1+δ̂_cw+û. Остаток по-прежнему ортогонален двум оставшимся столбцам, значит это уже решение второго МНК. При полном ранге коэффициенты единственны.
Почему стандартные ошибки различны
Обозначим Sww=Σ(wᵢ−w̄)² и выборочную корреляцию w,x через ρ. При SSR>0 и n>3 первая классическая оценка дисперсии эффекта равна [SSR/(n−3)]/[Sww(1−ρ²)]. Наивная формула второго шага даёт [SSR/(n−2)]/Sww.
Отношение этих дисперсий равно (n−2)/[(n−3)(1−ρ²)], а не единице. Второй расчёт игнорирует, что преобразованный отклик r построен с использованием оценённого по тем же данным γ̂.
Граница равенства коэффициентов
Вывод относится к вычитанию именно коэффициента x из указанной полной регрессии. Если γ оценивается в другой выборке или без w, совпадение не следует автоматически. Регрессионная алгебра сама по себе также не доказывает причинную интерпретацию δ: для неё нужен механизм воздействия.
Борис Демешев и участники · Исходная задача и ключ · CC BY 4.0. Равенства сохранены; формулы стандартных ошибок выведены редакцией.