Условие
В X два центрированных регрессора a и b. Задано VIF_a=10, SST_a=125 и SST_b=5. Найдите возможные корреляции между признаками и (XᵀX)⁻¹.
Ключ источника
r_ab=±3/√10. Обратная матрица равна [1/(1−r²)]·[[1/SST_a,−r/√(SST_aSST_b)],[−r/√(SST_aSST_b),1/SST_b]].
Редакционный численный расчёт
При двух признаках вспомогательная регрессия одного на другой имеет R²=r². Поэтому 1/(1−r²)=10, откуда r²=0,9. Знак не определяется коэффициентом вздутия дисперсии.
Корень произведения сумм квадратов равен √625=25. Поэтому
(XᵀX)⁻¹=[[2/25,−2r/5],[−2r/5,2]].
Для r=3/√10 внедиагональные элементы равны −6/(5√10), для отрицательной корреляции — +6/(5√10). Исходная матрица Грама равна [[125,25r],[25r,5]], её определитель — 625(1−r²)=62,5>0.
Интерпретация
Величина VIF сообщает о повышении дисперсии оценки при связи между признаками, но не восстанавливает направление этой связи. Диагональные элементы обратной матрицы одинаковы в обоих вариантах, а внедиагональные меняют знак.
Формула относится к двум данным центрированным столбцам X. Если в матрицу добавлен отдельный столбец константы, у полной обратной матрицы появится ещё один блок; указанная 2×2 матрица описывает именно блок двух центрированных регрессоров.
Борис Демешев и участники · Исходное задание и формула · CC BY 4.0. Численный вид и проверки добавлены.