Условие
x=(0,1,2,3), y=(5,6,4,100). Стройте регрессионное дерево по минимизации RSS до трёх терминальных узлов.
Ответ источника
Первый split: x<2,5. Второй: x<1,5.
Первое разбиение
Порог 2,5 отделяет точку y=100. Справа RSS=0. Слева значения 5,6,4 имеют среднее 5 и RSS=(0²+1²+(-1)²)=2. Это намного лучше порогов, оставляющих 100 вместе с другими наблюдениями.
Второе разбиение
В левом узле порог 1,5 делит y=(5,6) и y=(4). Первый лист прогнозирует 5,5 с RSS=0,5, второй — 4 с RSS=0. Правый исходный лист прогнозирует 100.
Итоговый обучающий RSS равен 0,5. Альтернативный порог 0,5 в левом узле оставил бы пару 6,4 со средним 5 и RSS=2, поэтому выбранный split действительно лучше.
Борис Демешев и участники · mlearn_pro, задача 88 · CC BY 4.0. Оба порога ключа сохранены; прогнозы листьев добавлены.