Условие
Истинный успех имеет вероятность 0,3. Первый прогнозист независимо предсказывает успех с вероятностью 0,3 и неуспех с 0,7. Второй всегда выбирает более вероятный неуспех. Кто чаще ошибается и чему равен Gini исхода?
Ошибка рандомизированного прогноза
Он ошибается в двух случаях: прогноз 1 при факте 0 и прогноз 0 при факте 1:
0,3·0,7+0,7·0,3=0,42.
Постоянный прогноз
Всегда прогнозировать 0 означает ошибаться только при истинной единице: 0,3. Поэтому по 0–1 loss второй прогнозист лучше.
Связь с Gini
Индекс Джини Bernoulli(0,3) равен 2·0,3·0,7=0,42. Это не случайное совпадение: вероятность несовпадения двух независимых меток, нарисованных из одного бинарного распределения, равна его Gini impurity.
Вероятность против класса
Прогноз вероятности 0,3 может быть идеально калиброванным, но превращать его в случайную метку не оптимально по 0–1 loss. При симметричной цене ошибок детерминированный Bayes-класс выбирает наиболее вероятный исход.
Борис Демешев и участники · mlearn_pro, задача 81 · CC BY 4.0. Gini ключа сохранён; первые два ответа дополнены.