Boosting
弱い学習器（ランダムよりわずかに精度が高い分類器）を繰り返し組み合わせることで、強力な分類器を構築するアンサンブル手法。各ラウンドで前の学習器が誤分類したデータに重みを増やし、次の学習器がそこに特化して学ぶことで「苦手克服の専門家集団」を形成する。
「コイン投げより少しだけ賢い予測器を組み合わせるブースティングの基本発想」
「ブースティングは加法モデルの学習として解釈できる」
「決定木の利点を保ちながら精度を劇的に改善するブースティング」
「ブースティングはLassoの正則化パスを近似していた」
「ブースティングの正体—実はLassoをやっている」
「ブースティングはマージン最大化経路を辿る」
「浅い木をたくさん作って少しずつ足し合わせるブースティングが決定木の唯一の弱点を克服する」
「M個の弱い決定木を足し合わせるブースティング木の定義」
「ブースティング木の本質——弱い学習器の累積がスパムフィルタで最強を生む」
「ブースティングは小さな木を積み重ねてひとつの予測器を作る」
「小さく、ゆっくり、たくさん積み重ねるブースティングの哲学」
「ブースティングはM本の木の足し算だが、その解釈は変数重要度とPDPで行う」