VC Dimension (Vapnik-Chervonenkis Dimension)
関数クラスの表現力(複雑さ)を測る指標。関数クラスが「散らせる」最大の点数として定義される。パラメータ数とは独立した概念で、sin(αx)のようなパラメータ数1でも無限大のVC次元を持つ関数が存在する。
「パラメータ数では測れない本当の複雑さ」
「VC次元 = 散らせる最大の点数」
「VC次元と汎化誤差の上界」
「パラメータ数とは独立した複雑度の指標としてのVC次元」
「VC次元 = 関数クラスがshatterできる最大の点数」
「区間・線形・sin関数クラスのVC次元の比較」
「マージンを大きくすると高次元でもVC次元が制限できる」