バイアス-バリアンス トレードオフ

デモ1: 的当てゲームで概念を理解する

シミュレーション

シナリオ選択

「狙いのズレ」と「腕のブレ」がどう違うか見てみよう

デモ2: モデルの複雑さでトレードオフを体験する

モデルの予測とデータ

コントロール

1
バイアス²: 0.00
バリアンス: 0.00

解説: なぜモデルの性能は上がったり下がったりするのか?

モデルの予測誤差は、主に「バイアス」と「バリアンス」という2つの要素に分解できます。この2つはトレードオフの関係にあり、片方を減らそうとするともう片方が増えてしまいます。

バイアス (Bias) バリアンス (Variance)
意味 モデルの予測が、真の値から体系的にずれている度合い。
(的の真ん中から狙いがずれている)
訓練データが変わると、モデルの予測がどれだけばらつくかの度合い。
(腕が安定せず、弾が散らばる)
原因 モデルが単純すぎて、データ内の複雑な関係性を捉えきれない。
→ 未学習 (Underfitting)
モデルが複雑すぎて、データ内のノイズまで学習してしまっている。
→ 過学習 (Overfitting)
デモ2での確認 「複雑さ」スライダーを左に動かすと増加する。 「複雑さ」スライダーを右に動かすと増加する。「データ再サンプリング」でモデルが大きく揺れることで確認できる。
理想のモデル バイアスとバリアンスの両方が低く、全体の誤差が最小になる、バランスの取れたモデル。