バッチ正規化（Batch Normalization）の名称の由来と仕組み・特徴の解説

2026年10月9日 2026年10月10日山崎講師

山崎講師

こんにちは。ゆうせいです。

ディープラーニングの学習を安定させる手法の一つに、バッチ正規化があります。この手法がなぜバッチ正規化と呼ばれるのか、名称の由来と具体的な仕組みについて解説します。

バッチ正規化の名称の由来

バッチ正規化という名称は、ミニバッチと呼ばれるデータのまとまりごとに正規化を行う処理そのものに由来します。

ディープラーニングの学習では、すべての学習データを一度に処理するのではなく、数十個から数百個程度の小さなまとまりに分割して計算を進めます。この分割されたデータのまとまりをミニバッチと呼びます。

バッチ正規化は、ネットワークの各層において、このミニバッチ内のデータ群を単位として平均と分散を計算し、分布を整える操作を行います。ミニバッチごとに正規化を実行するアルゴリズムであるため、バッチ正規化（Batch Normalization）という名前が付けられました。

学校の試験に例えると、学年全体の全生徒の成績を待って偏差値を出すのではなく、同じ教室にいる1クラス（ミニバッチ）の点数だけでその都度平均とバラつきを出し、クラス内での相対的な位置を揃え直す作業に似ています。

バッチ正規化の計算手順

バッチ正規化では、1つのミニバッチに含まれる各データに対して以下の順序で数式処理を施します。

ミニバッチのデータ数を m、各データの値を x と置いた場合、まずミニバッチ内の平均値を算出します。

$\mu_{B} = \frac{1}{m} \sum_{i=1}^{m} x_{i}$

続いて、算出した平均値を用いてミニバッチ内の分散を計算します。

$\sigma_{B}^{2} = \frac{1}{m} \sum_{i=1}^{m} (x_{i} - \mu_{B})^{2}$

平均値と分散を用いて、各データを平均0、分散1の状態へ整えます。ゼロ除算を防ぐために分母へ微小な値 epsilon を加算します。

$\hat{x}_{i} = \frac{x_{i} - \mu_{B}}{\sqrt{\sigma_{B}^{2} + \epsilon}}$

最後に、ネットワークが必要な表現力を保てるよう、学習可能なパラメータであるスケール係数 gamma とシフト係数 beta を適用して最終的な出力を得ます。

$y_{i} = \gamma \hat{x}_{i} + \beta$

バッチ正規化のメリットとデメリット

バッチ正規化を採用した際に生じる具体的な特徴は次の通りです。

メリット

学習率を高く設定できる：内部の数値の偏りが抑えられるため、勾配消失や勾配爆発が起きにくくなり、1回の更新幅を大きくして学習を素早く進めることができます。
重みの初期値への依存度が下がる：各層へ入力される値の分布が整えられるため、モデルの初期パラメータの設定精度に対する過敏さが緩和されます。
わずかな過学習抑制効果が得られる：ミニバッチの選び方によって平均や分散に細かなばらつきが生じるため、これが一種のノイズとして働き、過学習を抑える役割を果たします。

デメリット

ミニバッチのサイズに性能が依存する：ミニバッチのデータ数が極端に小さい場合、計算される平均や分散の統計的な信頼性が下がり、学習が不安定になります。
学習時と推論時で処理の切り替えが必要となる：推論時には1件ずつデータを処理する場合があるため、学習中に記録した移動平均データを用いて正規化を行う専用の処理手順を組み込む必要があります。
系列データへの適用が難しい：データの長さが可変となるリカレントニューラルネットワーク（RNN）などでは、バッチ単位での集計が難しく、レイヤー正規化（Layer Normalization）など別の手法を選択する必要があります。

まとめ

バッチ正規化は、その名称通りミニバッチ単位でデータの平均と分散を揃える手法です。数値の偏りを抑えることで学習の進行を助ける一方、ミニバッチサイズへの依存性という制約も持ち合わせています。

本手法を体系的に身につけるための学習順序は以下の通りです。

基礎概念の確認：正規化（平均0、分散1）という統計的な基本操作の意義を把握します。
他の正規化手法との比較：ミニバッチ単位で計算するバッチ正規化と、特徴量単位で計算するレイヤー正規化やインスタンス正規化の違いを整理します。
実装の観察：主要な深層学習フレームワークを用いて、バッチ正規化の有無による損失値の減少速度の違いを確認します。

セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。