この軌跡はどのアルゴリズム?
クリックで開始点を変更できます
クリックで開始点を変更できます
バッチ勾配降下法 (BGD) | 確率的勾配降下法 (SGD) | ミニバッチ勾配降下法 | |
---|---|---|---|
更新単位 | 全データを使って1回更新 | データ1件ごとに1回更新 | 少数のデータ群(ミニバッチ)ごとに1回更新 |
軌跡の特徴 | 滑らかで安定的。最短経路で坂を下る。 | 激しくジグザグに進む。暴れ馬のよう。 | 少し揺れながらも、比較的滑らかに進む。 |
使われ方 | データセットが小さい場合を除き、ほとんど使われない。 | オンライン学習などで使われることがある。 | 現在のディープラーニングで最も一般的に使われる手法。 |