Gradient Boosting
任意の微分可能な損失関数に対してブースティングを適用できる汎用フレームワーク。各ステップで損失関数の負の勾配（疑似残差）に木をフィットさせることで、直接的に解けない損失関数にも対応できる。XGBoostやLightGBMの理論的基盤となっている。
「頑健な損失関数の場合は勾配ブースティングという近似手法を使う」
「XGBoostやLightGBMの理論的基盤となる勾配ブースティング」
「損失関数の負の勾配を疑似残差として木を当てはめる」
「勾配ブースティングの全体像とまとめ」
「指数損失の等価性発見が勾配ブースティングへの一般化への扉を開いた」
「ノイズの多いデータではLogitBoostや勾配ブースティングが好まれる」
「損失関数を自由に変えられる勾配ブースティングの枠組み」
「ISLEの特殊ケースとして：確率的勾配ブースティングはISLEをそのまま実行」
「XGBoostやLightGBMが事実上の業界標準になっている勾配ブースティング」
「Huber損失やロジスティック損失の最適化困難を克服する勾配ブースティング」
「カリフォルニア住宅価格データと人口統計データにGBMを適用した実例」