代理変数とは何か：見えないバイアスの真犯人を理解する

2026年8月6日 2026年8月6日山崎講師

山崎講師

こんにちは。ゆうせいです。

前の記事で、再犯予測システムCOMPASが黒人被告人に対して差別的に機能していることを解説しました。興味深いのは、COMPASのアルゴリズムには、直接的に「人種」という変数が組み込まれていなかったということです。それにもかかわらず、なぜ人種差別的な出力が生じたのでしょうか。その答えの鍵は、「代理変数」という概念にあります。代理変数とは、本来測定したい属性（人種）の代わりに、関連した別の属性（例えば、住所、逮捕歴など）を使用することで、間接的に差別を実行するメカニズムです。本記事では、代理変数の定義から、その危険性、そして対抗方法まで、初心者向けに詳しく解説します。

代理変数とは

代理変数（Proxy Variable）とは、直接測定できない、または測定するのが難しい変数の代わりに、それと相関関係にある別の変数を使用することです。

統計学的な定義：変数 X を直接測定することが困難な場合、X と相関のある変数 Z を使用して X を推定する場合、Z を X の代理変数と呼びます。

実装上の観点：機械学習モデルに「人種」という変数を明示的に入れることは、法的・倫理的に禁止されていることが多いです。そのため、開発者は「人種」と強い相関を持つ別の変数（例えば、郵便番号、逮捕歴）を使用してしまうのです。

代理変数の使用は、必ずしも意図的な差別ではありません。むしろ、「人種という変数を使わないようにしよう」という良かれと思った判断から、実装されることが多いのです。しかし、その結果として、より巧妙で、見えにくい差別メカニズムが生み出されてしまうのです。

なぜ代理変数が使われるのか

理由1：直接測定が法的・倫理的に禁止されている

米国のEqual Employment Opportunity Commission（機会均等雇用委員会）や、EU AI法などの規制では、採用やローン審査の際に、人種、性別、宗教などの保護属性に基づく直接的な差別は法的に禁止されています。

結果として、企業や政府機関は、「人種」という変数を明示的にモデルに組み込むことができません。

理由2：データ収集の困難さ

人種など、センシティブなデータの収集は、プライバシー上の理由から制限されていることが多いです。

その一方、住所、教育歴、逮捕歴などの公開情報は容易に入手できます。

結果として、開発者は入手可能なデータを使用することになり、それが代理変数として機能してしまうのです。

理由3：「人種を考慮しないようにしよう」という良かれと思った判断

アルゴリズム開発者が、「人種による差別を避けよう」という目的で、人種という変数を除外したとします。

しかし、他の変数が人種と強く相関していれば、その他の変数を使用することで、人種に基づく差別が実現されてしまうのです。

これは、「人種を含めないから大丈夫」という楽観的な判断の落とし穴です。

代理変数の具体例

例1：郵便番号による人種差別（COMPASとの関連）

COMPASのスコアに含まれていた変数の一つが、被告人の「住所」（より正確には、郵便番号）です。

米国では、歴史的な人種隔離（redlining：銀行が特定の地域へのローン提供を拒否することで、黒人居住地域を経済的に孤立させた政策）により、低所得の黒人が集中している地域と、高所得の白人が集中している地域が明確に分かれています。

結果として、郵便番号という変数は、実質的に人種の代理変数として機能するのです。

COMPASが郵便番号を使用する際、開発者は「客観的な地域情報を使用している」と考えたかもしれません。しかし、実際には人種に基づく差別が間接的に実装されていたのです。

例2：採用AIにおける女性差別（Amazonの事例）

Amazonが開発した採用AI（前の記事で言及）では、女性の応募者を不公平に低く評価していました。

直接的な原因は、訓練データが「過去10年の採用者」であり、テック業界の採用者が圧倒的に男性だったということです。

しかし、より詳細に分析すると、以下のような代理変数が機能していました。

学校の名前：女性向けの高校の名前（例：女子大学の附属高校）が、テック企業への採用と負の相関を持つ。

部活動：女性が多く参加する部活動（例：合唱部）が、採用と負の相関を持つ。

仕事経歴の表現：女性が使いやすい言葉遣い（例：協調性を強調する表現）が、採用と負の相関を持つ。

これらの変数は、一見すると「性別」とは関係ないように見えます。しかし、実質的には女性を特定し、低い評価を付与する代理変数として機能していたのです。

例3：与信判定におけるアフリカ系米国人差別

銀行がローン申請者の与信判定にAIを使用する場合、以下のような代理変数が使用されることがあります。

クレジットスコア履歴：歴史的な差別により、アフリカ系米国人のクレジット履歴は平均的に低い傾向があります。

銀行口座の利用パターン：少額の取引を頻繁に行う傾向が、アフリカ系米国人に多く見られます。

これらの変数は、表面上は「金銭管理の能力」を測定しているように見えます。しかし、実質的には過去の経済的差別の結果を固定化し、現在のローン審査で再び差別を実行する代理変数として機能しているのです。

代理変数がもたらす特有の問題

問題1：見えない差別

直接的に「人種」という変数を使用していないため、差別が見えにくくなります。

「郵便番号は客観的な情報だ」「クレジットスコアは信用能力の指標だ」という言い張りにより、根本的な差別性が隠蔽されます。

問題2：法的責任の回避

企業や政府機関は、「人種という変数を使用していない」という法的な言い訳が可能になります。

しかし、実質的には人種に基づく差別が実行されているのです。

問題3：対抗の困難さ

差別の被害者が、「なぜ自分が低い評価を受けたのか」と異議を唱えようとしても、対抗が極めて難しくなります。

「郵便番号が悪かったのか」「クレジットスコアが低かったのか」と、表面的な理由で説明されてしまいます。

問題4：バイアスの増幅

代理変数により過去の差別が固定化されるだけでなく、時間とともにバイアスが増幅される傾向があります。

例えば、ローン審査でアフリカ系米国人が低く評価されると、彼らは融資を受けられず、経済的地位が低下し、結果としてクレジットスコアがさらに低下し、次回のローン審査でさらに低く評価される、という悪循環が生じるのです。

代理変数による差別のメカニズム

代理変数がどのようにして差別を実行するのか、数学的に説明します。

保護属性（人種）を R、使用される変数を X とします。

法的に禁止されている直接的差別：R → 判定結果

実装されている間接的差別（代理変数による）：R → X → 判定結果

この場合、R と X に強い相関がある場合、X だけを使用しても、実質的には R に基づく判定が実行されるのです。

数学的に：

$latex P(\text{低い評価} | X) \approx P(\text{低い評価} | R)$ latexP(低い評価∣X)≈P(低い評価∣R)

ここで、≈ は「ほぼ等しい」を意味します。X が R の完全な情報を含んでいる場合、この近似は極めて正確になります。

代理変数の検出方法

方法1：相関分析

使用している変数と保護属性（人種、性別など）の間に強い相関があるかを調べます。

高い相関が検出されれば、その変数が代理変数として機能している可能性があります。

方法2：パティパリティの監査（Parity Audit）

保護属性の異なるグループに対して、モデルが異なる判定結果を出していないかを調べます。

例えば、同じクレジットスコアを持つアフリカ系米国人と白人に対して、ローン承認率が異なれば、何らかの代理変数が機能している可能性があります。

方法3：モデル解釈可能性（Model Interpretability）

機械学習モデルが、各変数をどの程度重視しているか、分析します。

一見すると無害に見える変数が、実際には非常に高い重みを持っていないか確認します。

方法4：対抗的検査（Adversarial Testing）

保護属性だけを変更し、他のすべての変数を同じにしたテストデータを作成し、モデルが異なる判定を出すかを確認します。

例えば、郵便番号だけを「黒人が多く住む地域」から「白人が多く住む地域」に変更し、モデルの出力が変わるかを調べます。

代理変数の対抗方法

対抗方法1：多様な変数の検討

単一の変数に過度に依存するのではなく、複数の異なる視点から情報を収集します。

これにより、単一の代理変数による差別の影響を低減できます。

対抗方法2：データセットの多様化

訓練データに存在する歴史的バイアスを可能な限り除去し、多様な背景を持つデータを収集します。

対抗方法3：定期的な監査と透明性

導入後も定期的に、モデルが異なるグループに対して差別的に機能していないか、監査します。

また、なぜそのような判定が下されたのか、ユーザーに説明する透明性が必須です。

対抗方法4：因果分析の活用

相関関係だけでなく、因果関係を分析することで、代理変数による疑似相関を区別します。

例えば、郵便番号と再犯率に相関があっても、それは郵便番号が再犯を「引き起こす」わけではなく、郵便番号が人種と相関しているためだということが明らかになります。

対抗方法5：明示的な公平性制約

モデルの設計段階で、「複数のグループに対して同等の精度を達成する」という明示的な目標を設定します。

これは差分プライバシーと同様に、プライバシーと精度のトレードオフを意識的に管理することです。

代理変数と法的責任

重要な点として、代理変数による差別は、法的に見ても違法である可能性が高いということです。

米国の公民権法では、直接的な差別だけでなく、「差別的効果（Disparate Impact）」も違法と見なされます。

つまり、意図的な差別でなくても、結果として特定の人種グループに対して不利な影響をもたらすならば、違法なのです。

COMPASのケースでも、後の法的検討において、郵便番号のような代理変数の使用が、差別的効果をもたらしているとして、批判されました。

代理変数と技術倫理

代理変数の問題は、単なる技術的な課題ではなく、倫理的な課題でもあります。

技術者が「人種という変数を使用していないから大丈夫」という楽観的な判断をしていたとしても、その結果として構造的な差別が実装されてしまいます。

これは、技術者に対して、以下のような責任を課すものです。

訓練データの歴史的背景を理解する。

代理変数の存在を認識し、意識的に対抗する。

導入後のモニタリングと改善を継続する。

ユーザーと被影響者に対して、透明性と説明責任を果たす。

代理変数を完全に排除できるか

一つの問いが生じます。代理変数を完全に排除することは、技術的に可能なのでしょうか。

答えは、ほぼ不可能です。

理由：社会全体が差別の歴史を持っている場合、その歴史は多くのデータに反映されています。

訓練データから、歴史的差別の痕跡を完全に取り除くことは、数学的に困難です。

より現実的なアプローチは、代理変数の存在を認識し、その影響を最小化し、定期的に監視することです。

つまり、「完全に公平なアルゴリズム」を目指すのではなく、「できる限り公平に設計し、継続的に改善する」というプロセスを実行することが重要なのです。

まとめ

代理変数とは、直接測定できない属性（例：人種）の代わりに、それと相関のある別の属性（例：郵便番号）を使用する変数です。

法的な禁止や倫理的な配慮から、人種などの保護属性を直接的にモデルに組み込まない場合、結果として代理変数による間接的な差別が生じてしまいます。

COMPASの郵便番号、Amazonの学校名や部活動、銀行のクレジットスコアなど、多くの実例が示す通り、代理変数による差別は広範に存在しており、見えにくく、対抗が難しいという特有の問題を持ちます。

代理変数を検出し対抗するためには、相関分析、パリティ監査、モデル解釈可能性分析、対抗的検査などの方法が有効です。

重要なのは、「人種という変数を使用していないから差別ではない」という楽観的な判断を避け、データと結果に潜む隠れた差別を意識的に検出・監視することです。

次のステップとして、自分の関心のあるAI応用分野（採用、与信、医療診断など）において、どのような変数が代理変数として機能している可能性があるか分析してみたり、ProPublicaの報告やアカデミック論文（Barocas and Selbst、Dreyfuss and Barocasなど）を読んでみたり、因果推論（causal inference）について学んで、相関と因果の区別をより深く理解してみたりすることをお勧めします。その学習を通じて、アルゴリズム設計における隠れた差別メカニズムを見抜く能力が身につくでしょう。

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。