負の対数関数（-log）の凸性と機械学習における最適化への活用

2026年10月14日 2026年10月14日山崎講師

山崎講師

こんにちは。ゆうせいです。

数学や機械学習の計算において、負の対数関数（マイナス・ログ）という数式表現が頻繁に活用されます。この関数をグラフ上に描くと、下向きに膨らんだお椀のような形状を示します。数学の分野では、このように下に突き出た形状を持つ関数を下流への凸、あるいは単に凸関数（Convex Function）と定義します。機械学習のモデル学習において、関数が凸型である性質は、計算を安定して収束させるための重要な役割を果たします。凸型の意味や数式上の特徴、機械学習へ応用する理由を解説します。

凸関数と対数変換の基本的な仕組み

関数の形状を把握する際、グラフの曲がり方によって数学的な性質が大きく変化します。

凸関数という専門用語の役割

凸関数とは、関数のグラフ上にある任意の2点を直線で結んだとき、その線分が常にグラフの曲線よりも上側（または同じ高さ）に位置する関数のことです。

身近な例として、底が丸いすり鉢やお椀の内側を想像してください。すり鉢のふちの2点に定規を渡すと、定規は常にお椀の底面よりも高い位置を通ります。また、お椀の内側にビー玉を落とすと、どの位置から転がし始めても最終的には一番低い中央の1点に自然と集まります。このように、谷底に相当する最小値が1つだけ存在し、どこから下ってもその谷底へたどり着ける形状を持つ関数が凸関数です。

負の対数関数が凸型になる理由

自然対数関数 y = log x は、値が増加するにつれて増え方が緩やかになる上向きに膨らんだ形状（凹関数）を持ちます。

この関数にマイナスを付けた y = -log x は、上下が反転します。入力値 x が0に近づくほど値は急激に大きくなり、x が増えるにつれて値が小さくなりながら傾きが緩やかになります。

数学的に関数の凸性を確認するためには、2階微分（曲がり具合を調べる計算）を行います。

y = -log x の2階微分を表す計算式

$\frac{d^{2}y}{dx^{2}} = \frac{1}{x^{2}}$

x が正の範囲（x > 0）において、分母の2乗は常に正の値となるため、2階微分の結果は常に0より大きくなります。2階微分が正であることは、グラフの傾きが右肩上がりに変化し続けている状態を示しており、数学的にこの関数が凸関数であることを証明しています。

負の対数関数を最適化で用いる利点と注意点

機械学習の損失関数として負の対数関数を組み込むアプローチには、計算処理上の明確な特徴が存在します。

負の対数関数を用いるメリット

最小化すべき関数が凸の性質を持つ場合、局所的な窪み（局所解）に捕らわれることなく、全体の中で最も低い点（大域的最適解）に勾配降下法などの手法で確実に到達できます。
確率の掛け算によって生じる極端に小さな数値を足し算の形へ変換できるため、コンピュータ内部での計算桁落ちを防ぎ、数値の安定性を確保できます。

負の対数関数を用いるデメリット

入力値が0に極端に近づいた際、出力値が無限大へ発散するため、プログラム上でゼロ除算や数値のオーバーフローを防ぐ補正処理を事前に追加する必要があります。
複雑な多層ニューラルネットワーク全体として見た場合、ネットワークのパラメータ全体に対する関数全体は必ずしも凸関数を維持できるとは限らず、局所解の発生を完全に排除できるわけではありません。

まとめ

負の対数関数は、2階微分が正の値を取り続ける性質によって凸関数となります。谷底が1つに定まるこの形状は、機械学習において誤差を最小化する計算アルゴリズムを確実かつ効率的に機能させるための基礎として利用されています。

この関数の性質を順を追って理解するための手順は以下の通りです。

通常の対数関数のグラフを描き、値の変化に伴う傾きの変化を確認します。
マイナス符号を付けた際の上下反転の動きを捉え、1階微分および2階微分の符号を計算して凸の条件と照合します。
ロジスティック回帰や交差エントロピー誤差の定義式を確認し、確率の最大化問題が負の対数を介して凸関数の最小化問題へ置き換わる流れを把握します。

セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。