機械学習の前処理である白色化の名称の由来と仕組み
山崎講師こんにちは。ゆうせいです。
機械学習や統計学の分野では、集めたデータをモデルに学習させる前処理として白色化という計算処理を行うことがあります。名前の中に色を表す文字が含まれているため、画像データを白く加工する処理と受け取られることもありますが、実際にはデータの数値的なばらつきや関連性を整える数学的な手続きを指します。
この処理がなぜ白色化と呼ばれるようになったのか、その背景にある物理的な語源と数学的な役割について解説します。
白色化の名称の由来
白色化という言葉は、光や音の物理現象である白色雑音（ホワイトノイズ）に由来します。
太陽の光や蛍光灯の白い光は、プリズムを通すと赤から青まであらゆる波長の光が均等に含まれていることが分かります。特定の波長だけが強くならず、すべての波長が同じ強さで混ざり合うことで、人の目には無色の白い光として届きます。また、テレビの砂嵐の音のように、あらゆる高さの周波数が均等に含まれた音も、光の性質になぞらえてホワイトノイズと呼ばれます。
高校の理科室でプリズムを使って光を分ける実験を想像してみてください。様々な色が偏って混ざっている光から偏りを取り除き、あらゆる色の強さを完全に均一にして一様な白い光を作り出す操作と同じ考え方に基づいているため、この前処理に白色化という名称が付けられました。
白色化がデータに対して行う2つの処理
白色化は、ばらつきや傾きを持ったデータに対して、主に2つの段階を踏んで変換を行います。
無相関化による不要な連動の解消
無相関化は、2つ以上の項目が互いに連動して変化する関係を解消する処理です。
たとえば、身長が高い人ほど体重も重い傾向があるように、一般的なデータでは項目同士が斜め方向に連動して分布します。無相関化では、データの軸を回転させて、各項目が互いにまったく連動しない独立した状態へと変換します。
分散の正規化による強さの均一化
無相関化によって独立させた各項目のデータの広がり（分散）を、すべて同じ大きさである 1 に揃える処理です。
光の波長ごとの強さを完全に同じ値に揃えることと同じであり、特定の項目だけが極端に大きな数値を持たないように調整します。
多次元のデータ x から平均を引いた後の分散共分散行列を 
この数式が示すように、すべての項目同士の関連性が 0 となり、各項目のばらつきが均等に 1 となる状態を作り出すことが白色化の目的です。
白色化の長所と短所
白色化の長所
- 項目の重複排除：各項目間の冗長な関連性が取り除かれるため、機械学習モデルが効率的に特徴を抽出できるようになります。
- 学習の安定化：各変数のばらつきが一律に揃うため、ニューラルネットワークなどの学習アルゴリズムにおける計算の収束速度が向上します。
白色化の短所
- ノイズの過剰な強調：もともと変化の幅が小さく重要度の低い微小な誤差までばらつきを 1 に拡大してしまうため、測定誤差の影響を受けやすくなります。
- 計算負荷の増大：データの項目数が多い場合、共分散行列の計算や行列の分解処理に多くの計算時間とメモリを必要とします。
白色化の理解を深める学習ステップ
白色化の基礎を体系的に身につけるための順序を提示します。
- 主成分分析の学習白色化の土台となる主成分分析を学び、データの分散が大きい方向を見つけて軸を回転させる座標変換の手法を確認します。
- 共分散行列と単位行列の計算練習2次元のサンプルデータを用いて分散共分散行列を求め、回転と拡大縮小の変換行列を掛けることで分散共分散行列が単位行列に変化する計算過程を追跡します。
- 画像処理への適用実験自然界の画像データに対して白色化を実行し、輪郭や微細な変化が強調される一方で、平坦な部分のノイズがどのように浮き彫りになるかを観察します。
セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。
投稿者プロフィール
- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。
