Kernel Method
カーネル関数を使って入力データを(暗黙的に)高次元特徴空間に写像し、その空間で線形手法を適用する枠組み。実際には高次元空間での内積計算をカーネル関数の評価に置き換えることで効率的に計算できる(カーネルトリック)。SVM、カーネル回帰、ガウス過程回帰などが含まれる。
「カーネルトリックで非線形境界を扱うカーネル法の全体像」
「SVM回帰でもカーネルトリックがそのまま使える」
「カーネル法(メモリベース)はO(NM)の計算量、基底関数法はO(M²)」
「表現定理により無限次元問題が有限次元問題に帰着する」