「モデルの近似」という考え方「局所的な解釈」と「大域的な解釈」

2025年9月22日 2025年9月22日山崎講師

山崎講師

こんにちは。ゆうせいです。

前回は、Grad-CAMなどの技術を使って、AIのブラックボックスの中を「覗き見る」方法についてお話ししました。しかし、もしAIモデルがあまりにも複雑で、中を覗いても何が何だか分からないとしたら、どうすればよいのでしょうか？

そんなとき、XAI（説明可能なAI）の世界では、また別のアプローチが取られます。それが、複雑なAIの隣に、そのAIの言葉を翻訳してくれる「分かりやすい通訳」を立てる、という戦略です。

今回は、この通訳戦略の核となる「モデルの近似」という考え方と、それによって得られる「局所的な解釈」と「大域的な解釈」という2つの視点について、一緒に学んでいきましょう。

通訳を立てる戦略：「モデルの近似」とは？

深層学習のような複雑なモデルは、なぜその結論に至ったのか、人間が直接理解するのは非常に困難です。そこで考え出されたのが、「モデルの近似」または「代理モデル（Proxy Model）」という手法です。

これは、性能は高いが難解なブラックボックスモデルの隣に、性能は少し劣るかもしれないが非常にシンプルなホワイトボックスモデル（決定木や線形モデルなど）を置き、このシンプルなモデルに、複雑なモデルの「予測結果を真似させる」という考え方です。

アナロジー：どんな天気も当てる、魔法の水晶玉

ここに、未来の天気を百発百中で予言できる、魔法の水晶玉（ブラックボックスモデル）があるとします。なぜ当たるのか、仕組みは誰にも分かりません。

そこであなたは、水晶玉の隣に、昔ながらのシンプルな晴雨計（代理モデル）を置きます。そして、水晶玉が「明日は雨」と予言したら、晴雨計も「雨」を示すように調整していきます。

何度もこれを繰り返すうちに、晴雨計は水晶玉の動きをかなり正確に真似できるようになりました。今や私たちは、晴雨計の針の動き（例えば「気圧が下がったから雨」）を観察することで、魔法の水晶玉の判断根拠を推測できるようになったのです。

この「晴雨計」を作り出す試みが、モデルの近似です。そして、この晴雨計を「どう使うか」によって、得られる解釈の範囲が変わってきます。

「この一手」の理由を知る：局所的な解釈

局所的な解釈（Local Interpretation）とは、AIが行ったたった一つの予測に焦点を当てて、「なぜ、この予測結果になったのか？」を説明するアプローチです。

アナロジー：「明日の名古屋の天気」だけを知りたい

あなたは今、水晶玉が出した「明日の名古屋は雨」という、たった一つの予言の理由が知りたいと思っています。東京や大阪の天気は、今はどうでもいい。

そこであなたは、名古屋の今の気象データ（湿度、気温、風速など）だけを使って、非常に小さな晴雨計をその場で作ります。その晴雨計は「湿度95%で、気圧が急降下している。だから雨でしょう」と、とてもシンプルな理由を示してくれました。

この説明は、「明日の名古屋の天気」という特定の状況（局所）においてのみ有効ですが、その一つの判断を深く理解するには非常に役立ちます。このように、個々の予測の妥当性を確認したり、デバッグしたりする際に強力な武器となります。この分野で最も有名な手法が「LIME」です。

「全体の戦略」を掴む：大域的な解釈

大域的な解釈（Global Interpretation）とは、個々の予測ではなく、AIモデル全体の振る舞いや、判断の全体的な傾向を説明しようとするアプローチです。

アナロジー：水晶玉の「天気予報の仕組み全体」を知りたい

あなたは次に、この水晶玉が、日本全国の天気を、一年を通してどのように予測しているのか、その全体的なロジックに関心を持ちました。

そこであなたは、過去一年分の日本の気象データと、水晶玉の予言結果をすべて学習させ、一本の大きな「決定木」を作ります。その決定木には、「もし夏で、太平洋高気圧に覆われていたら、80%の確率で晴れと予言する」「もし冬で、西高東低の気圧配置なら、95%の確率で日本海側は雪と予言する」といった、モデル全体の判断ルールが描かれていました。

この決定木は、一つ一つの予言を100%正確に再現はできないかもしれませんが、水晶玉の「思考のクセ」や「重視するポイント」といった全体像（大域）を把握させてくれます。モデルが意図通りに動作しているか、おかしな偏見を持っていないかなどを確認するのに役立ちます。

まとめ：2つの視点の使い分け

この2つの解釈は、AIを理解するための異なる「窓」を提供してくれます。

解釈の範囲	アナロジー	何を説明するか？	メリット	デメリット
局所的	特定の場所へのピンポイントな道案内	個々の予測の理由	特定のケースを深く、正確に理解できる	モデル全体の挙動は分からない
大域的	国全体の道路地図	モデル全体の振る舞いや傾向	全体のロジックや戦略を把握できる	個々の予測の解釈は甘くなることがある

顧客への説明責任が求められる場面では局所的な解釈が、モデル開発者が全体の健全性を確認する場面では大域的な解釈が、それぞれ重要な役割を果たします。

次のステップへ

「モデルの近似」という考え方は、XAIの非常に強力な基盤です。

LIME (Local Interpretable Model-agnostic Explanations): 局所的な解釈の代表格です。「モデル非依存」なので、どんなブラックボックスモデルにも適用できるのが強みです。
SHAP (SHapley Additive exPlanations): 前回も少し触れましたが、SHAPは非常に優れており、個々の予測に対する各特徴量の貢献度（局所的解釈）を算出し、それらを平均することでモデル全体の特徴量重要度（大域的解釈）も導き出せる、万能なツールです。

あなたがAIモデルを扱うとき、「このたった一つの予測の根拠は？」と問われたら局所的な視点を、「このモデルは全体として、何を重視しているの？」と問われたら大域的な視点を、それぞれ使い分ける意識を持つことが、AIを使いこなし、そしてAIに信頼を与えるための大きな一歩となります。

セイ・コンサルティング・グループの新人エンジニア研修のメニューへのリンク

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。