SVMのヒンジ損失とソフトマージンの公式と覚え方を解説
こんにちは。ゆうせいです。
データを2つのグループに分類するサポートベクターマシン(SVM)において、全てのデータを完全に分離できない状況に対応する仕組みとしてソフトマージンがあります。その際、誤った分類やマージンへの侵入に対してペナルティを計算する評価基準がヒンジ損失です。今回は、機械学習を初めて学ぶ方に向けて、ソフトマージンの考え方、ヒンジ損失の公式の覚え方、そしてそのメリットとデメリットを整理して解説します。
ソフトマージンとヒンジ損失とは何か
ソフトマージンは、境界線付近に例外的なデータが混ざり込んでいても、わずかな誤りを許容しながら境界線を引く手法です。
高校の学校行事でクラスごとに座席を区切る場面を想定します。男子生徒の席と女子生徒の席を直線で分ける際、荷物の受け渡しなどで1人か2人が相手の領域に一時的に足を踏み入れている場合があります。この少人数の配置を厳密に分けようとすると、境界線が不自然に折れ曲がったり、全体の並びが乱れたりします。そこで、多少の越境を許容しつつ、全体として整った境界を設定する考え方がソフトマージンです。
このとき、境界から一定の安全地帯(マージン)を確保できているか確認し、安全地帯の内側に入り込んだり逆側に飛び出したりした距離に応じて科すペナルティをヒンジ損失と呼びます。
ヒンジ損失の公式と覚え方
ヒンジ損失の公式は、正解ラベルを y 、モデルの予測スコアを f(x) と置いたとき、損失 L を求める関数として次のように表されます。ここで正解ラベル y は +1 または -1 の2値を取ります。
L = max(0, 1 - y · f(x))
覚え方の3つの要素
この公式の構成要素は、次のように段階を追って分解できます。
- 安全基準の1を設定する:境界線から正しい方向に十分な距離を保っている状態を基準値の1と置きます。
- 判定の一致度を引く:正解ラベル y と予測値 f(x) の掛け算である y · f(x) を計算します。正しく確信を持って分類できている場合、この積は1以上の正の数値になります。1からこの積を引くことで、安全基準からの不足分を算出します。
- 0と比較して大きい方を取る:max(0, 基準からの不足分) という計算を行い、不足分がマイナス(十分安全な状態)であればペナルティを0とし、プラス(安全地帯への侵入や誤分類)であればその差額をそのままペナルティとします。
公式の覚え方は、指定の数式である「max(0, 1 - y · f(x))」の構造をそのまま言葉にします。すなわち、「安全基準の1から正解と予測の積を引き、0と比較して大きい方を採用する」と捉えます。ドアの蝶番(ヒンジ)のように、ある地点(1)までは平らで0のまま推移し、境界を越えると直線的にペナルティが増加する形状からこの名前が付けられています。

ソフトマージンとヒンジ損失のメリットとデメリット
ソフトマージンを用いたサポートベクターマシンには、実務データに適用する上での明確な特徴があります。
メリット
- ノイズや外れ値に柔軟に対応できる:データの中に混ざった例外値を許容できるため、境界線が極端に歪む現象を防止できます。
- 過学習を抑制できる:学習用のデータに過剰に適合することを防ぎ、新しく入力される未知のデータに対しても安定した分類精度を維持できます。
- 計算が扱いやすい:ヒンジ損失は凸関数であるため、最適化計算を行う際に局所的な解に囚われず、大域的な最適解を効率的に探索できます。
デメリット
- ハイパーパラメータの調整が必要になる:マージンの広さと誤分類ペナルティのバランスを制御するパラメータ(通常はCと表記)を、人間が試行錯誤して設定する必要があります。
- 0の地点で微分が不可能である:誤差がちょうど0になる境界点において導関数が一意に定まらないため、劣勾配法などの特殊な最適化手法を用いる必要があります。
まとめ
サポートベクターマシンのソフトマージンは、一部の例外データを許容しながら実用的な境界線を引く仕組みであり、そのペナルティ計算にはヒンジ損失が用いられます。ヒンジ損失の公式は「max(0, 1 - y · f(x))」で表され、安全マージンである1からの不足分を評価し、基準を満たしていればペナルティを0にするという構造を持っています。
ヒンジ損失の仕組みを把握した後は、許容度を決定する正則化パラメータCがモデルに与える影響を順を追って確認してみてください。さらに、直線での分離が困難なデータに対応する「カーネル法」とソフトマージンを組み合わせた計算手順へと学習を進めることで、非線形なサポートベクターマシンの全体像を体系的に理解できます。
投稿者プロフィール

- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。
最新の投稿
山崎講師2026年10月28日研修講師のための発信者情報開示請求入門 中傷されたときの判断手順と現実的なコスト
新人エンジニア研修講師2026年10月28日tanh関数とその微分の覚え方:基本定義と1引く二乗の公式を再現する手順
新人エンジニア研修講師2026年10月28日シグモイド関数とその微分の覚え方:基本定義と公式を素早く再現する手順
新人エンジニア研修講師2026年10月28日適合率・再現率・F値の公式の覚え方:分母の違いから整理する評価指標の基本

