Bias-Variance Tradeoff
モデルの偏り(バイアス)と分散のトレードオフ関係。複雑なモデルは低バイアス・高分散、単純なモデルは高バイアス・低分散となる。K-Fold CVにも同様のトレードオフがあり、K=Nはバイアス小・バリアンス大、K=5はバランス良好。
「線形モデルとk-NNがそれぞれ異なるバイアスとバリアンスのリスクを抱えている」
「バイアス-バリアンス分解」
「トレードオフの意味」
「dfが小さすぎるとバイアス大、大きすぎるとバリアンス大」
「低バイアスと低分散を同時に達成することが困難」
「バイアス-分散トレードオフを意識する」
「K-Fold CVのKの選び方にバイアスとバリアンスのトレードオフが顔を出す」