DamiRocK

Связь категориального признака с числовым или бинарным откликом

Предложение источника: кодировать категории индикаторами, оценить регрессию и взять √R². Объясняем связь с групповыми средними и отсутствие знака.

Научная визуализация Связь категориального признака с числовым или бинарным откликом
R²=Σ_g n_g(ȳ_g−ȳ)² / Σ_i(yᵢ−ȳ)²
Регрессия на индикаторы категорий сводит связь с фактором к различиям групповых средних.

Условие

Предложите способ измерить связь между бинарной и факторной переменными, а затем между количественной и факторной переменными.

Способ из источника

Замените факторную переменную набором бинарных предикторов. Используйте их для прогноза бинарного или количественного отклика, вычислите R² и извлеките квадратный корень.

Редакционная интерпретация

При обычном МНК по индикаторам групп прогноз для каждого наблюдения равен среднему отклика в его группе. Поэтому R²=Σg n_g(ȳ_g−ȳ)² / Σi(yᵢ−ȳ)². Его квадратный корень показывает долю общего разброса, связанную с различиями групповых средних; эту меру называют корреляционным отношением.

Для бинарного y групповое среднее — доля единиц. Формула сравнивает такие доли между категориями. Для числового y используются обычные групповые средние.

Кодирование и ограничения

Можно включить все индикаторы без отдельной константы или константу и на один индикатор меньше. Константа вместе со всеми взаимоисключающими исчерпывающими индикаторами создаёт линейную зависимость столбцов.

При постоянном y знаменатель нулевой, стандартное отношение не определено. Корень R² не имеет знака: категории без естественного порядка не дают универсального направления «положительной» или «отрицательной» связи.

Источник предлагает один способ, а не утверждает, что это единственно возможная характеристика зависимости. Если групповые средние совпадают, мера может быть нулевой даже при различии форм распределений внутри групп. Поэтому ноль здесь не является общим доказательством независимости.

Борис Демешев и участники · Исходный вопрос и предложенный способ · CC BY 4.0. Формула и ограничения добавлены редакцией.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.