Ensemble Learning
複数の学習器(モデル)を組み合わせて、単一のモデルより優れた予測を行う手法の総称。バギング、ブースティング、ランダムフォレストなどが代表例。多様性のある複数の弱学習器を組み合わせることで、バイアスや分散を削減できる。
「たくさんの木を作って組み合わせるアンサンブル学習の出発点」
「弱い学習器が集まると強い予測器になるアンサンブルの本質」
「多様な基底関数を作り必要なものだけ選ぶアンサンブル設計哲学」