Bumping
ブートストラップサンプルで複数のモデルを学習し、元の訓練データで評価して最も良いひとつだけを選ぶ確率的探索手法。Baggingが複数モデルを平均するのに対し、BumpingはBestを選ぶ。貪欲アルゴリズムが局所最適に陥りやすい問題(XORデータなど)で特に効果を発揮する。データを「揺らす(bump)」ことで最適化手続きをモデル空間の良い領域へ誘導する。
「BaggingとBumpingの違い:平均化 vs 最良の1つを選ぶ」
「Bumpingのアルゴリズム手順」
「Bumpingの選択基準となるargmin式」
「Bumpingのまとめ:確率的探索で局所最適から脱出する」