第2章

• 2.1教師あり学習への招待
• 2.6統計モデル、教師あり学習、関数近似
• 2.7構造化回帰モデル
• 2.8制限付き推定量のクラス
• 2.9モデル選択とバイアス-バリアンス・トレードオフ

第3章

• 3.1線形回帰モデルと最小二乗法
• 3.3変数選択 - 最適な変数の組み合わせを見つける
• 3.4縮小推定法（Shrinkage Methods）
• 3.5導出入力方向を使った手法（主成分回帰と部分最小二乗法）
• 3.6選択法と縮小法の比較

第4章

• 4.1分類への線形アプローチ
• 4.2線形判別分析（Linear Discriminant Analysis）
• 4.3線形判別分析（Linear Discriminant Analysis）
• 4.4ロジスティック回帰（Logistic Regression）
• 4.5分離超平面（Separating Hyperplanes）

第5章

• 5.1基底展開と正則化 - 線形モデルの壁を超えて
• 5.2区分的多項式とスプライン
• 5.3フィルタリングと特徴抽出
• 5.4Smoothing Splines - 滑らかさを自動で調整する

第6章

• 6.11次元カーネル平滑化法
• 6.2カーネルの幅の選択
• 6.3高次元空間での局所回帰

第7章

• 7.1モデル評価と選択 - バイアス・バリアンスとモデル複雑度
• 7.2クロスバリデーション - 限られたデータを最大限に活用する
• 7.3バイアス・バリアンス分解