AdaBoost (Adaptive Boosting)
1997年にFreundとSchapireが提案したブースティングアルゴリズム。各ラウンドで弱い学習器を学習し、誤分類されたデータの重みを増やして次のラウンドでそこに特化して学ぶことを繰り返す。最終的に全学習器の加重多数決で予測する。数学的には指数損失を最小化する前向き段階的加法モデリングと等価である。
「AdaBoost.M1アルゴリズムの詳細」
「AdaBoostは指数損失の最小化と等価」
「AdaBoostの謎の公式群が指数損失から導かれる」
「前向き段階的加法モデルとしてのAdaBoostの解釈」
「AdaBoostの重み更新規則が指数損失から自動導出される」
「AdaBoostが指数損失を最小化するアルゴリズムであることを踏まえた問いかけ」
「AdaBoostは加法モデルであり、符号のみが判定に使われる」
「AdaBoostの3つの顔：アルゴリズム・統計・ベイズ最適分類器」