高校数学で挫折した「log(ログ)」が、AI開発の救世主だった話
こんにちは。ゆうせいです。
「サイン、コサイン、何になる?」なんて言葉がありますが、それ以上に「これ、人生でいつ使うの?」と思われがちなのが、高校数学で習う「対数(log、ログ)」ではないでしょうか。
この記号を見ただけで、教科書を閉じたくなった経験がある方もいるかもしれませんね。
しかし、実はこの「log」こそが、最先端のAIやデータ分析を裏で支えている、とてつもなく重要な「道具」なのです。これがないと、AIは計算中に気絶してしまうといっても過言ではありません。
今回は、あんなに嫌われていたlogが、なぜエンジニアの現場では「神扱い」されているのか。その意外な活躍ぶりをご紹介します。
コンピュータは「小さすぎる数字」が苦手
前回、最尤推定では「確率を掛け算して、一番大きな値を探す」という話をしました。
3回くらいのコイン投げなら、暗算でもできますし、コンピュータにとっても朝飯前です。
しかし、これが「1万件のデータ」だったらどうなるでしょうか?確率は必ず1より小さい数(0.x)なので、掛け算をすればするほど、数字はどんどん小さくなっていきます。
(これを1万回繰り返す)
こうなると、答えは と、0の後に0が何千個も続くような、とてつもなく小さな数になります。
ここで問題が起きます。実は、コンピュータが扱える「桁数」には限界があるのです。あまりにも数字が小さくなりすぎると、コンピュータはそれを表現しきれなくなり、「もう面倒だから0でいいや!」と、強制的に「0」として扱ってしまいます。
これを専門用語で「アンダーフロー(桁落ち)」と呼びます。
せっかく計算したのに、全部「0」になってしまったら、どのパラメータが良いのか比較できませんよね。これが、確率の掛け算における最大の落とし穴です。
ここで登場!魔法の道具「log」
このピンチを救うのが、logです。logには、計算の世界を一変させる、ある強力な性質があります。
それは、「掛け算を足し算に変えることができる」という魔法です。
数式で書くとこうなります。
見てください。左側の「掛け算」が、右側では「足し算」に変身していますよね!
この性質を使うと、先ほどの「確率の掛け算(どんどん小さくなる)」を、「対数の足し算(扱いやすい大きさのまま)」に変換できるのです。
- 変換前:
(桁がどんどん増えて大変!)
- 変換後:
(シンプルな足し算!)
- ※ここでは分かりやすく常用対数(底が10)で例えています。
これなら、1万回計算しても桁があふれることも、0になってしまうこともありません。これが、AIの計算で「対数尤度(尤度のlogをとったもの)」が使われる最大の理由です。
順位は変わらないから大丈夫
「でも、勝手にlogなんてつけたら、元の値と変わっちゃうんじゃないの?」
鋭い質問です。確かに値そのものは変わります。しかし、ご安心ください。「順位(大小関係)」は絶対に変わらないのです。
logのグラフを思い出していただくと、右肩上がりの曲線だったはずです。これは、元の数 が大きくなれば、その対数
も必ず大きくなることを意味します(単調増加といいます)。
つまり、
- 元の確率で計算して「A > B」なら、
- logをつけて計算しても「log(A) > log(B)」
という関係が保たれます。
私たちが最尤推定で知りたいのは、「具体的な確率の値」ではなく、「どのパラメータが一番優秀か(誰がチャンピオンか)」ということだけです。
だから、計算しやすいようにlogをつけて値を変換しても、チャンピオンが変わらないなら全く問題ないのです。
まとめ
嫌われ者だったlogが、少し頼もしく見えてきたでしょうか。
- コンピュータは、確率のような小さな数を掛け算し続けると「アンダーフロー」を起こして気絶する。
- logを使うと、「掛け算」を「足し算」に変換できるため、計算が安定する。
- logをつけても大小関係(順位)は変わらないので、一番もっともらしい犯人を見つける目的には影響しない。
これが「対数尤度」を使う理由です。高校数学で習った知識が、AIの「計算の安定化」という超実用的な部分で役立っているなんて、面白いですよね。
セイ・コンサルティング・グループの新人エンジニア研修のメニューへのリンク
投稿者プロフィール
- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。