このツールで確認する学習サイクル
予測
損失
勾配
更新
1.順伝播(Forward Propagation)
入力特徴量に重みを掛け、活性化関数を通しながら左から右へ計算します。最後の出力層ではSoftmax関数により、各クラスの確率を求めます。
入力 → 隠れ層1 → 隠れ層2 → Softmax → 予測確率
2.損失(Loss)
正解「2」に対して、モデルがどの程度外しているかを交差エントロピー誤差で表します。正解クラスの確率が高いほど損失は小さくなります。
損失 = −log(正解クラス「2」の予測確率)
3.逆伝播(Backpropagation)
損失を小さくするには、どの重みをどちらへ動かせばよいかを、連鎖律を使って出力層から入力層へ計算します。
4.重み更新(Gradient Descent)
計算した勾配に学習率を掛けて重みを修正します。このツールでは、表示される予測確率と損失値も実際に更新されます。
新しい重み = 現在の重み − 学習率 × 勾配
この教材は概念理解を優先した小規模なニューラルネットワークです。実務の画像認識では、より多くのデータと層、CNNなどの構造を用います。