Задача
Класс 0: X∼N(0,1), класс 1: X∼N(2,1), priors равны 1/2. Найдите Bayes/LDA decision boundary.
Сравнение плотностей
При равных prior и одинаковой variance достаточно сравнить квадраты расстояний до средних:
x² ? (x−2)².
Равенство даёт x²=x²−4x+4, значит x=1.
Правило
Если x<1 — класс 0; если x>1 — класс 1. Для x=1,5 прогноз класс 1.
Линейность
Логарифм отношения двух нормальных плотностей с общей ковариацией является линейной функцией x. Именно поэтому Linear Discriminant Analysis имеет линейную границу.
Если priors не равны
Граница сдвигается в сторону более редкого класса через добавку log(π₁/π₀). При разных дисперсиях появляется квадратичный член и возникает QDA.
Редакционная практика по discriminant analysis в тематике mlearn_pro · CC BY 4.0.