Условие
В исходных n наблюдениях выполнены предпосылки Гаусса — Маркова с ковариацией ошибок σ²I. Долли копирует каждое наблюдение один раз и помещает копию сразу после оригинала. Какова новая ковариационная матрица? Как она изменится, если вместо этого добавить n копий только последнего наблюдения?
Ответ источника
В первом случае на диагонали расположены n блоков B=σ²[[1,1],[1,1]], остальные блоки нулевые. Во втором случае один диагональный блок пропорционален единичной матрице, другой заполнен σ², между ними нули.
Редакционное уточнение размеров
Первая новая выборка имеет 2n строк, её ошибка — (u₁,u₁,u₂,u₂,…,uₙ,uₙ)ᵀ. Копия содержит ту же случайную ошибку, а не новый независимый шум. Поэтому ковариация оригинала и копии равна σ².
Во втором варианте остаются n−1 некопированных ошибок и n+1 одинаковых экземпляров uₙ. Матрица размера 2n×2n равна diag(σ²I_{n−1},σ²J_{n+1}). Здесь n означает именно число добавленных копий; исходная последняя строка тоже входит в большой блок.
Что происходит с информацией
Обе ковариационные матрицы вырождены: повторяющиеся строки не создают независимых наблюдений. При равномерном удвоении всех строк обычные коэффициенты МНК остаются теми же, поскольку и XᵀX, и Xᵀy удваиваются.
Если программа после копирования считает 2n ошибок независимыми и применяет стандартные формулы без учёта блоков, её стандартные ошибки не описывают реальный механизм данных. При копировании только последней строки меняются также веса наблюдений и могут измениться коэффициенты.
Борис Демешев и участники · Исходная задача и блоки · CC BY 4.0. Размеры и последствия дополнены редакцией.