Задача
Bootstrap sample размера n формируется n независимыми выборами с возвращением из n исходных строк. Какова вероятность, что фиксированная строка ни разу не попадёт в resample?
Один выбор
Вероятность не выбрать её один раз равна 1−1/n.
n выборов
P(OOB)=(1−1/n)^n.
При n→∞:
P(OOB)→e^{-1}≈0,367879.
Сколько уникальных строк входит
Ожидаемая доля хотя бы раз выбранных строк стремится к 1−e^{-1}≈63,2%.
OOB estimate
В bagging/random forest для каждой строки можно оценивать качество по тем моделям, чьи bootstrap samples её не содержали. Это экономит отдельную validation-set, но не делает оценку автоматически независимой от всех решений по настройке модели.
Редакционная практика по bootstrap/bagging mlearn_pro · CC BY 4.0.