DamiRocK

Замена меток y на 1−y в логите: коэффициенты, ковариация и прогнозы

После инверсии бинарного отклика коэффициенты меняют знак, а оценка ковариации остаётся прежней. Доказываем через симметрию Λ.

Условие

Грегори оценил логит-модель по отклику y, Патрик заменил каждое значение на 1−y и оценил модель по тем же признакам. Как связаны коэффициенты, оценки их ковариационных матриц, прогнозы и прогнозы при новых значениях признаков?

Ключ источника

Все коэффициенты меняют знак; ковариационная матрица не меняется; каждая прогнозная вероятность p заменяется на 1−p. Это касается и новых точек x.

Редакционное доказательство

Логистическая функция удовлетворяет Λ(−t)=1−Λ(t). Правдоподобие исходных меток при β точно совпадает с правдоподобием инвертированных меток при −β:

Σ[ylogΛ(xᵀβ)+(1−y)log(1−Λ(xᵀβ))] не меняется после одновременной замены y→1−y и β→−β.

Поэтому единственный конечный максимум переходит в свой противоположный. Если максимум не единственен, соответствие действует между множествами максимизаторов; при разделении проблема отсутствия конечной оценки сохраняется.

Ковариация

Матрица наблюдаемой информации имеет вид XᵀWX, W=diag[pᵢ(1−pᵢ)]. При pᵢ→1−pᵢ каждый вес остаётся прежним, поэтому обратная информация и стандартные ошибки не меняются.

Для робастной sandwich-оценки при согласованной реализации score каждого наблюдения меняет знак, а его внешнее произведение остаётся тем же. Это даёт ту же симметрию.

Интерпретация

Изменяется названный «успехом» исход, а не данные признаков. Численный знак эффекта зависит от кодирования категории. Сравнивая модели разных авторов, сначала проверьте, какое событие обозначено единицей.

Борис Демешев и участники · Исходная задача и ответ · CC BY 4.0. Ключ сохранён; доказательство и условия добавлены.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.