Overfitting
訓練データに過度に適合し、未知のデータに対する汎化性能が低下する現象。
「過学習の問題」
「複雑なモデルは訓練データに強く適合しすぎ楽観性が膨らむ」
「ニューラルネットワークには過学習という根深い問題がある」
「パラメータが多いほどノイズまで学習しやすく過適合が起きる」
「1-最近傍分類器の完全な過学習が.632推定量の弱点を示す」
「訓練データで重みを学ぶと複雑なモデルが不当に優遇される過学習」
「深い木を作るほど真の関数に近づくが同時に過学習を引き起こす」
「J > 10 では高次相互作用が存在しないノイズまで学習して過学習が起きる」
「ブースティングの過適合：反復が進むとノイズまで覚えてしまう」