損失関数とコスト関数の違いと機械学習における役割
こんにちは。ゆうせいです。
機械学習の学習を進める中で、損失関数とコスト関数という非常によく似た2つの用語に出会う場面があります。専門書や解説記事によっては同じ意味として扱われる場合もありますが、厳密な数学的定義や統計学の文脈では明確に区別されています。
損失関数とコスト関数が指し示す範囲の違い、それぞれの計算の仕組み、そしてモデルの学習における役割について解説します。
損失関数とコスト関数の基本的な違い
損失関数とコスト関数の違いは、計算の対象となるデータの単位にあります。
- 損失関数(Loss Function)1つの訓練データに対して、モデルの予測値と実際の正解値とのズレを測定する関数です。
- コスト関数(Cost Function)データセット全体、または1つのまとまりに含まれるすべてのデータにおける損失の合計や平均値を表す関数です。目的関数の一種としても扱われます。
高校の定期試験の振り返りに例えて考えてみます。返却された答案用紙において、大問1番の正解と自分の解答を見比べ、その1問で何点失点したかを算出する行為が損失関数の計算に相当します。それに対し、試験全体で間違えたすべての問題の失点を足し合わせ、最終的に満点から何点足りなかったのかという総合得点の不足分を出す行為がコスト関数の計算です。
つまり、個々のデータに対する誤差を評価する指標が損失関数であり、それらを足し合わせてモデル全体の性能を評価する指標がコスト関数です。
損失関数とコスト関数の数学的な関係
機械学習の最適化処理では、コスト関数が最小となるようにモデルの重みパラメータを更新していきます。
訓練データの個数を N とし、i 番目のデータに対するモデルの予測値を y_pred、正解値を y_true とします。このとき、個々のデータにおける損失関数を L(y_pred, y_true) と置くと、データセット全体に対するコスト関数 J は、各データの損失の総和をデータ数で割った平均値として定義されます。
この関係式が示すように、コスト関数 J は個別の損失関数 L の積み重ねによって成り立っています。モデルの学習アルゴリズムは、1問1問の損失を小さくすることを通じて、最終的に試験全体の失点であるコスト関数 J を極限まで減らすことを目指します。
コスト関数のメリットとデメリット
コスト関数のメリット
- 全体的な性能の均一化:すべての訓練データにわたる平均的な誤差を評価基準とするため、一部のデータに偏ることなく、データ全体の傾向を反映した調整が行えます。
- アルゴリズムの統一:回帰問題における平均二乗誤差や、分類問題における交差エントロピー誤差など、目的に応じた標準的な関数を用いることで、様々なモデル間で最適化の手続きを共通化できます。
コスト関数のデメリット
- 外れ値による影響の拡大:極端に不自然な数値が一部のデータに含まれている場合、そのデータの損失が跳ね上がり、全体のコスト関数の値が大きく歪められる危険があります。
- 計算規模の肥大化:データセット全体の損失を毎回合算してコストを算出するため、データ量が数百万件規模に達すると、パラメータを1回更新するだけでも計算時間とメモリの消費量が増加します。
まとめ
損失関数は個々のデータに対する1点ごとの誤差を測定するものであり、コスト関数はそれらの損失をデータセット全体で集計した総合的な誤差の指標です。この2つの単位の違いを把握しておくことで、機械学習の数式やアルゴリズムの解説を混乱なく読み解けるようになります。
損失関数とコスト関数に関する理解を深めるための学習順序を提示します。
- 1つのデータ点における誤差計算の確認回帰分析における残差平方や、二値分類におけるロジスティック損失の計算式を確認し、単一の入力と正解からどのように損失が出力されるかを計算します。
- 総和と平均によるコスト関数の構築個々の損失をシグマ記号で足し合わせ、データ数 N で割って平均二乗誤差や交差エントロピー誤差の全体式を導出する計算過程を確認します。
- バッチ処理による最適化手法の学習全データを使ってコスト関数を計算するバッチ勾配降下法と、データを小分けにしてコストを近似計算するミニバッチ勾配降下法の違いを調べ、計算効率と最適化精度の関係を把握します。
セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。
投稿者プロフィール

- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。


