Задание
Покажите, что K(x,z)=exp(xᵀz) является ядром, и опишите соответствующее признаковое пространство.
Степенной ряд
e^{xᵀz}=Σ_{k=0}^∞ (xᵀz)^k/k!.
Каждый (xᵀz)^k — полиномиальное ядро степени k. Положительная взвешенная сумма ядер снова является ядром, а коэффициенты 1/k! положительны.
Явная идея feature map
Для каждого k включите все мономы степени k, масштабированные так, чтобы их скалярное произведение давало (xᵀz)^k/k!. Соберите блоки всех степеней k=0,1,2,… в одну бесконечную последовательность.
В одномерном случае особенно просто:
φ(x)=(1, x, x²/√2!, x³/√3!, …),
и φ(x)ᵀφ(z)=e^{xz}.
Отличие от RBF
Ядро e^{xᵀz} не является тем же объектом, что e^{-||x−z||²}. У него K(x,x)=e^{||x||²}, поэтому длина feature-вектора зависит от нормы x, а не равна единице.
Борис Демешев и участники · mlearn_pro, задача 58 · CC BY 4.0. Идея степенного ряда источника сохранена; feature map пояснена.