k-近傍法

定義

予測したい点に近いk個のデータ点を使って予測する手法。kが小さいほど複雑（柔軟）、kが大きいほど単純。訓練データを全て記憶し、分類時に多数決で判定する「遅延学習」の代表的な手法。強力な理論的保証（ベイズ誤り率の最大2倍）を持つ。