DamiRocK

Линейное и гауссово ядро: длины и косинус угла в feature space

Для A и B с A·B=3, ||A||²=3, ||B||²=5 линейное ядро даёт cos=3/√15. При Gaussian K=exp(−||A−B||²) длины равны 1, cos=e^−2.

Условие

Для двух объектов A,B известны AᵀB=3, ||A||²=3, ||B||²=5. Сравните длины образов и косинус угла для линейного ядра K(a,b)=aᵀb и гауссова K(a,b)=exp(−||a−b||²).

Линейное ядро

Его естественное отображение — тождественное. Поэтому ||φ(A)||=√3, ||φ(B)||=√5,

cos angle = K(A,B)/√[K(A,A)K(B,B)] = 3/√15 = √(3/5).

Гауссово ядро

K(A,A)=K(B,B)=1, поэтому оба feature-вектора имеют длину 1. Квадрат расстояния исходных объектов:

||A−B||²=3+5−2·3=2.

Следовательно, cos angle=K(A,B)=e^{-2}.

Расстояние в feature space

Дополнительно ||φ(A)−φ(B)||²=1+1−2e^{-2}=2(1−e^{-2}). Гауссово ядро переводит все объекты на единичную сферу бесконечномерного пространства, а близость кодирует их скалярным произведением.

Борис Демешев и участники · mlearn_pro, задача 54 · CC BY 4.0. Ответы ключа сохранены; feature-space distance дополнена.

Reading preferences

Appearance
Contrast
More options

Saved only in this browser. Your device’s reduced-motion setting is always respected. Browser zoom works throughout the site.