y=ŷ+û; û⊥span{1,ŷ} ⇒ reg(y~1+ŷ): (0,1)
Условие
Вася оценил регрессию y на константу, x и z, а затем регрессию y на константу и полученные прогнозы ŷ. Какие коэффициенты он получит? Чему равна обычная оценка дисперсии наклона? Почему она может быть положительной, хотя наклон неслучаен?
Ответ источника
Свободный член 0, наклон 1. Формальная оценка дисперсии наклона равна SSR/[(n−2)ESS]. Источник объясняет противоречие нарушением предпосылок обычного регрессионного вывода.
Редакционное объяснение тождества
В исходной модели y=ŷ+û, причём û ортогонален константе и ŷ. Следовательно, во второй регрессии вектор ŷ уже является проекцией y на её пространство регрессоров. При непостоянном ŷ коэффициенты единственны и равны 0 и 1.
Остатки второй регрессии совпадают с исходными. Если программа механически использует s²=SSR/(n−2) и сумму квадратов центрированного нового регрессора ESS, она получает указанную положительную величину при SSR>0.
Что именно неприменимо
Новый регрессор построен из того же случайного y. Поэтому его нельзя рассматривать как обычный внешний фиксированный признак с независимыми гомоскедастичными ошибками исходного типа. Положительное число из стандартной формулы не является фактической дисперсией тождественно единичного коэффициента этой процедуры.
Если ŷ постоянно, знаменатель ESS равен нулю, а константа и ŷ линейно зависимы. Тогда даже уникальная пара коэффициентов 0 и 1 не определяется. Это редакционная оговорка к краткому ответу сборника.
Борис Демешев и участники · Исходное задание · CC BY 4.0. Ключ сохранён; различие формальной и фактической дисперсий пояснено.