XAI（説明可能なAI）の系統図と各手法の分類・特徴をわかりやすく解説

2026年9月13日 2026年9月13日山崎講師

山崎講師

こんにちは。ゆうせいです。

人工知能（AI）が提示した判断や予測に対して、「なぜその結論に至ったのか」という根拠を人間が理解できるように説明する技術体系を、XAI（Explainable AI：説明可能なAI）と呼びます。

高度な機械学習やディープラーニングは高い精度を誇る反面、内部の判断基準が外から見えにくい「ブラックボックス」になりがちです。提示された系統図は、AIの判断根拠を明らかにするための多様な手法を体系的に整理したものです。

ここでは、系統図の流れに沿って、各手法の分類と具体的な仕組みについて解説します。

XAIの大きな2つのアプローチ

XAIは、説明を行うタイミングや仕組みによって「内在的に解釈しやすい手法」と「事後説明（Post-hoc）」の2つに大別されます。

透明なガラスケースで組み立てられた時計のように、最初から内部の歯車の動きが見える仕組みを作る手法と、中身が見えない完成品の機械に対して、外から様々な刺激を与えて内部の挙動を後から推測する手法の違いに例えられます。

内在的に解釈しやすい手法

モデル自体の構造がシンプルであり、人間が計算式やルールを直接見て判断理由を把握できる手法です。設計段階から透明性が確保されています。

線形回帰：入力された各項目に対して、決められた数値を掛け算して足し合わせる手法です。学校の成績評価で各科目の点数に配点比率を掛けて合計点を出す計算のように、どの項目が合計値にどれだけ寄与したかが明確に分かります。
決定木：条件による分岐を樹形図のように重ねて判断を下す手法です。「気温が25度以上か」「雨が降っているか」といった質問を順番にたどりながら結論を導くため、判断の道筋をそのまま追跡できます。
ルールベース：「もしAならばBを実行する」という明確な条件規則をあらかじめ人間が組み上げておく手法です。マニュアルに書かれた手順通りの判断が行われます。
GAM（一般化加法モデル）：入力項目ごとに独立した関数を用意し、それらの出力を足し合わせて予測を行う手法です。線形回帰の柔軟性を高めつつ、各項目が結果に与える影響のグラフを個別に確認できる透明性を保っています。

事後説明（Post-hoc）

構造が複雑で内部を直接見ることが難しいモデルに対して、モデルの学習が完了した後に外部から解析を行い、判断理由を導き出すアプローチです。事後説明はさらに「モデル依存」と「モデル非依存」に分かれます。

モデル構造に縛られない「モデル非依存」の手法

モデル非依存の手法は、解析対象となるAIがディープラーニングであっても他の複雑なアルゴリズムであっても、中身の構造に関係なく適用できる手法です。モデルを外側から観察する範囲によって、「大域的説明」と「局所的説明」に分かれます。

大域的説明（モデル全体の傾向を把握する）

AIモデルが全体として何を重視して学習したのか、全体的な傾向を把握するためのアプローチです。学校全体の試験結果の平均傾向を調べる作業に似ています。

特徴量重要度：予測全体において、どの入力項目がどれくらい強く影響を与えているかを数値化して順位付けする手法です。
PDP（部分依存プロット）：他の条件を一定に保ちながら、特定の入力項目だけを変化させた際に、予測値がどのように推移するかをグラフとして可視化する手法です。
サロゲートモデル：複雑なAIモデル全体の入出力関係を、線形回帰や決定木などの単純なモデル（代理モデル）で近似させ、全体の振る舞いを大まかに把握する手法です。

局所的説明（特定の1件のデータに対する判断理由を把握する）

「ある特定の患者に対する病気の診断結果」のように、個別のデータに対してAIがなぜその判断を下したのかを解明するアプローチです。一人ひとりの生徒の個別面談を行い、特定のテスト結果の原因を分析する作業に相当します。

LIME：解析したいデータ1件の周辺に少しだけ加工したデータを複数作成し、その狭い範囲内だけで単純なモデルを作成して判断の決め手を特定する手法です。
SHAP：ゲーム理論における貢献度分配の考え方を応用し、各項目がその予測結果に対してプラスあるいはマイナスにどれだけ寄与したかを公平に算出する手法です。
反実仮想説明：「もし年収があと50万円高ければ、融資の審査に通っていた」というように、どのような条件が満たされればAIの判断結果が別の結論に覆るのかを提示する手法です。

モデル内部の構造を利用する「モデル依存」の手法

特定のモデル構造（主に画像認識などで使われる畳み込みニューラルネットワークなど）の内部構造やパラメータを直接解析して説明を生成するアプローチです。機械の設計図を直接開き、特定の部品の電気信号の強さを測定する作業に例えられます。

Grad-CAM：画像のどの部分が判断に影響を与えたかを、最終的な出力から逆算した勾配情報を利用して熱分布図（ヒートマップ）として可視化する手法です。
Saliency Map：入力画像の各画素を微小に変化させた際に予測結果がどう変わるかを微分計算で求め、AIが注視したピクセルを強調表示する手法です。
Attention可視化：Transformerなどの構造において、AIが文章や画像のどの要素同士の結びつきを強く意識したかを示す注意度合い（アテンション）を視覚的に表示する手法です。

各アプローチの利点と課題

XAIの各手法を選択する上では、以下の事実関係が存在します。

内在的に解釈しやすい手法の利点と課題

利点：判断基準の確認に追加の計算処理が必要なく、人間が決定プロセスを完全に追跡できます。
課題：複雑に入り組んだデータパターンを表現する能力に限界があり、高度な画像認識や自然言語処理などでは十分な予測精度が出ない場合があります。

事後説明手法の利点と課題

利点：最新の高度で高精度なモデルの性能を落とすことなく、後付けで説明性を付与できます。
課題：説明手法そのものが近似計算に基づいているため、モデルの真の動作を完全に同一精度で再現しているとは限らない点や、追加の計算時間が発生する点があります。

まとめ

XAIの系統図は、人間が求める説明の粒度（モデル全体か、個別の予測か）や、解析対象とするAIモデルの特性に応じて、最適な説明技術を選択するための道筋を示しています。

XAIの理解を深めるための学習ステップは以下の通りです。

決定木を用いて、分岐条件と予測結果がどのように結びついているかを実際に確認する。
複雑なモデルに対してSHAPやLIMEを適用し、個別のデータにおいてどの項目が正負のどちらに作用したかを読み取る。
画像認識モデルに対してGrad-CAMを動かし、画像内の注目領域と正解ラベルの関連性を可視化する。
解釈の容易さと予測精度のバランスを考慮し、用途に応じた適切な手法を選定する判断基準を身につける。

体系的な分類を意識して学習を進めることで、目的に合致した説明手法を適切に扱えるようになります。

セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。