機械学習や統計学で潜在変数が記号zで表される理由と背景

こんにちは。ゆうせいです。

機械学習や統計学の解説書を読んでいると、観測できない隠れた変数を表す記号として、アルファベットの小文字である z が頻繁に登場します。観測できるデータには x や y が割り当てられる一方で、なぜ隠れた性質を表す変数には z が選ばれる傾向にあるのか、疑問に感じる方も少なくありません。この表記法が広く定着した背景には、数学の伝統的な命名規則や、アルファベットの割り当てに関する合理的な理由が存在します。潜在変数の役割を整理しながら、記号 z が選ばれる経緯と特徴を解説します。

潜在変数の定義と基本概念

統計モデルにおいて、変数には直接観測できるものと、直接測定できないものの2種類が存在します。

潜在変数という専門用語の役割

潜在変数とは、測定機器や目視では直接確認できないものの、観測されたデータに影響を与えている背後にある隠れた数値や性質のことです。

高校の学校生活で例えると、定期テストの点数が観測データに相当します。国語、数学、英語の点数は紙に記録されて目に見える数値として確認できます。一方で、その点数の土台にある総合的な学力や学習への意欲は、温度計のように直接計器を当てて数値を測ることができません。テストの点数という表面的な結果を生み出している根底の学力こそが、統計学における潜在変数に該当します。

アルファベットの末尾文字を割り当てる数学の伝統

数学では、17世紀の数学者デカルト以来、既知の定数にはアルファベットの前半(a, b, c)を用い、未知の変数にはアルファベットの後半(x, y, z)を割り当てる規則が広く受け継がれてきました。

平面の幾何学において横軸を x、縦軸を y と置くように、まず入力データとして x が割り当てられ、予測対象の出力ラベルとして y が使われます。機械学習のモデルにおいて、入力データ x と出力データ y の両方が埋まった後に、モデルの内部に存在する第3の変数として追加の文字が必要になった際、アルファベットの末尾に残された文字である z が自然な選択肢として選ばれました。

統計モデルにおける記号 z の定着

深層学習やベイズ統計の発展に伴い、潜在変数を z と表記する慣習はさらに固定化されました。

標準正規分布における z スコアとの親和性

統計学の基礎において、平均を0、分散を1に揃える標準化の計算を行った変数は、古くから z スコアや z 値と呼ばれてきました。

変分オートエンコーダ(VAE)などの確率的な生成モデルでは、潜在変数が標準正規分布に従うという仮定を置く設計が一般的です。標準正規分布からサンプリングされる変数であることを数式上で直感的に示す意図からも、記号 z を割り当てることが統計学の文脈と整合性を保ちやすいという背景があります。

潜在空間から観測データを生成する確率の計算式

p(x) = \int p(x \vert{} z) p(z) dz

上記の式において、z は観測データ x の背後にある分布として統合され、積分によって全体が計算されます。

潜在変数を記号 z で統一して扱う際の特徴

記号 z を潜在変数として用いる慣例には、記述や情報共有の上で明確な特徴が存在します。

記号 z を用いるメリット

  • 数学や統計学の標準的な慣習に合致しているため、専門分野の論文やライブラリの実装コードを読む際に変数の役割を即座に識別できます。
  • 入力データの x や出力データの y と明確に文字の重複を避けることができ、数式の可読性が保たれます。
  • 潜在変数を標準正規分布に従わせる理論モデルにおいて、統計学の標準化変数の表記と自然に整合します。

記号 z を用いるデメリット

  • 3次元空間の座標軸を扱う幾何学の分野では z が奥行き方向の空間軸を表すため、3次元データを扱うモデルでは空間座標と潜在変数の記号が衝突する場合があります。
  • 複素数を扱う数学の文脈では z が複素数全体を表す標準記号として機能するため、複素ニューラルネットワークを扱う際には追加の注釈が必要になります。

まとめ

潜在変数に z が割り当てられる背景には、入力 x と出力 y に続く第3の未知数としてアルファベットの末尾文字を用いた数学の伝統と、標準正規分布を表す統計学の慣例が結びついた経緯が存在します。記号の由来を把握することは、数式が持つ設計の意図を正確に読み解く基礎となります。

潜在変数を扱うモデルの理解を深めるための学習手順は以下の通りです。

  1. 統計学の基礎における z スコアの算出方法と標準正規分布の性質を確認します。
  2. 主成分分析や因子分析のテキストを参照し、観測データから潜在的な成分を抽出する線形モデルの定式化を把握します。
  3. 混合ガウスモデルや変分オートエンコーダの数式を追い、潜在変数 z が周辺化や積分計算を通じてどのように扱われるかを確認します。

投稿者プロフィール

山崎講師
山崎講師代表取締役
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。