DamiRocK

Новое наблюдение в регрессии: почему TSS и SSR не уменьшаются

Добавляем одну точку и заново оцениваем ту же модель. Выводим изменение TSS и объясняем, почему ESS и R² не имеют единого направления изменения.

Научная визуализация Новое наблюдение в регрессии: почему TSS и SSR не уменьшаются
TSS′=TSS+n/(n+1)(y_{n+1}−ȳ)² ≥ TSS; SSR′≥SSR
Добавление (3,−2) зануляет новую центрированную сумму произведений.

Условие

Что происходит с TSS, SSR, ESS и R² при добавлении нового наблюдения? Для величин с односторонним изменением требуется доказательство, для остальных — объяснение возможности роста и падения.

Ответ и доказательство источника

При прежнем размере выборки n и среднем ȳ новое среднее равно (nȳ+yₙ₊₁)/(n+1). Раскрытие квадратов даёт TSS′=TSS+[n/(n+1)](yₙ₊₁−ȳ)²≥TSS.

SSR также не уменьшается. При любых новых коэффициентах сумма первых n квадратов не меньше своего прежнего минимума, а квадрат для дополнительной точки неотрицателен. ESS и R² могут меняться в обе стороны.

Редакционные примеры

Рост ESS и R²: исходные точки (−1,1),(0,−2),(1,1) имеют нулевой наклон и ESS=0. Добавление (2,4) создаёт ненулевой наклон, поэтому ESS>0 и R²>0.

Падение: начните с этих четырёх точек и добавьте (4,−2). У первых четырёх x̄=1/2, ȳ=1, центрированная сумма произведений равна 6. После добавления она равна 6+(4/5)(4−1/2)(−2−1)=−12/5, а не нулю; этот выбор не является проверкой нужного направления сам по себе.

Для точного зануления вместо (4,−2) возьмите (3,−2): новая сумма произведений 6+(4/5)(3−1/2)(−2−1)=0. Тогда ESS и R² падают до нуля. Пример специально показывает проверку формулы, а не вывод по рисунку.

Предполагается одна и та же форма МНК-модели с константой и обычные определения сумм квадратов. Увеличение числа наблюдений не является добавлением регрессора: соответствующие монотонности SSR противоположны.

Борис Демешев и участники · Исходное решение · CC BY 4.0. Формулы сохранены; числовые примеры добавлены редакцией.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.