DamiRocK

Положительная полуопределённость: шесть матриц из регрессионной алгебры

Проверяем XᵀX, XXᵀ, проекторы H и I−H и две составные матрицы. Доказательство через квадраты норм и ортогональную проекцию.

Научная визуализация Положительная полуопределённость: шесть матриц из регрессионной алгебры
vᵀXᵀXv=||Xv||²≥0; H²=H=Hᵀ
Все шесть матриц положительно полуопределены при существовании указанных обратных.

Условие

Какие матрицы положительно полуопределены: XᵀX; XXᵀ; H=X(XᵀX)⁻¹Xᵀ; I−H; Aᵀ(I−H)A; AᵀA−G[GᵀA⁻¹(Aᵀ)⁻¹G]⁻¹Gᵀ? Все произведения и обратные матрицы предполагаются определёнными.

Ключ источника

Все шесть. В русской постановке речь идёт именно о полуопределённости, не об обязательной строгой положительной определённости.

Редакционное доказательство первых пяти

Для любого v имеем vᵀXᵀXv=‖Xv‖²≥0; аналогично vᵀXXᵀv=‖Xᵀv‖². H и I−H симметричны и идемпотентны, поэтому их квадратичные формы — ‖Hv‖² и ‖(I−H)v‖².

Для пятой матрицы vᵀAᵀ(I−H)Av=‖(I−H)Av‖²≥0. Положительная полуопределённость сохраняется при таком преобразовании.

Шестая матрица

Положим B=(Aᵀ)⁻¹G. Тогда BᵀB=GᵀA⁻¹(Aᵀ)⁻¹G, а P=B(BᵀB)⁻¹Bᵀ — ортогональный проектор. Рассматриваемая матрица равна Aᵀ(I−P)A, поскольку AᵀB=G. Её полуопределённость уже установлена предыдущим аргументом.

Почему не обязательно строго

У проектора на собственное подпространство есть нулевые собственные значения. Матрица XᵀX также может иметь нулевые направления при зависимых столбцах X, хотя для записи H с обычной обратной матрицей это исключено. В последнем пункте требуются обратимость квадратной A и полный столбцовый ранг B, иначе указанная обратная матрица не существует.

Борис Демешев и участники · Исходная задача · CC BY 4.0. Краткий ключ сохранён; доказательства добавлены.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.