SHAP(シャップ)と LIME(ライム)の違い

こんにちは。ゆうせいです。
今回は、機械学習モデルの「説明可能性(Explainability)」を高める2つの有名な手法
LIME(ライム)と SHAP(シャップ)の違いを、新人エンジニアの方にもわかりやすく解説します!

どちらも「ブラックボックスなAIモデルを、人間にわかりやすく説明する」ための方法ですが、
考え方・理論・使いどころがまったく異なるんです。

今回は LIME を先に紹介し、そのあとに SHAP との違いをしっかり見ていきます!


LIMEとは?名前の由来と考え方

名前の意味

LIME
Local Interpretable Model-agnostic Explanations
の略です。

  • Local:局所的な(=ある1件の予測周辺)
  • Interpretable:解釈可能な
  • Model-agnostic:モデルに依存しない
    → 「あらゆる機械学習モデルの個別の予測を、単純な方法で説明する」手法という意味です。

どんなふうに説明するの?

  1. 説明したい入力(例:ある患者の診断結果)を1つ選ぶ
  2. その近くに、少しずつ特徴量を変えた「似たデータ」をたくさん作る
  3. 元のモデルにそれらを入力し、予測値を得る
  4. 得られたデータと予測値をもとに、簡単な線形モデルで近似して、影響を説明する

たとえ話で理解!

「複雑な機械の動きを調べるために、そっくりの小型モデルを作ってまねしてみる」
そして、「この部品をちょっと動かしたらこうなった」という因果の近似から理由を探ります。


LIMEの特徴まとめ

特徴内容
説明の範囲ローカル(個別の予測)に焦点を当てる
モデルへの依存性モデル非依存(ブラックボックスOK)
メリット軽量で直感的、実装が簡単
デメリット説明が不安定(実行ごとに結果が変わることも)
使用例個別の予測理由をサクッと可視化したいとき

SHAPとは?名前の由来と考え方

名前の意味

SHAP
SHapley Additive exPlanations
の略です。

キーワードは「Shapley Value(シャープレーバリュー)」——
これはゲーム理論の中で「プレイヤーの貢献度を公平に分配する方法」として知られています。


SHAPは何をする?

  1. 特徴量を「プレイヤー」、予測値を「報酬」と見立てる
  2. どの特徴量がどれくらいモデルの予測に貢献したかを、全ての組み合わせで評価する
  3. 最も公平な特徴量の貢献度(=SHAP値)を導き出す

たとえ話で理解!

チームで1位を取ったときに、「誰がどれだけ貢献したか?」をすべての可能な組み合わせで比べて評価する。
とても公平だけど、時間がかかる計算が大変


SHAPの特徴まとめ

特徴内容
説明の範囲ローカル(個別)もグローバル(全体)も対応可能
モデルへの依存性モデル非依存(ただし専用の高速SHAPもある)
メリット公平で一貫性のある貢献度を得られる
デメリット計算コストが高い(特に特徴量が多いとき)
使用例精密なモデル解釈・特徴量の重要度分析など

LIMEとSHAPの違いを表で比較!

比較項目LIME(ライム)SHAP(シャップ)
理論的背景局所的な線形近似ゲーム理論(シャープレーバリュー)
説明の粒度局所的(1件ずつの予測理由)局所もグローバルも可能
出力の安定性実行ごとにブレる可能性あり安定(一意に定まる)
計算コスト比較的軽いやや重い(特徴量が多いと特に)
解釈のしやすさ棒グラフなどで直感的にわかりやすい値の意味を正しく理解するには知識が必要
モデル非依存性モデル非依存モデル非依存(または専用SHAPモデル)

どちらを使えばいい?

目的・状況おすすめ手法
サクッと1件の予測理由を説明したいLIME
精密で公平な特徴量の貢献度を知りたいSHAP
データが小さく、処理が軽い方がいいLIME
ビジネスや医療で「説明責任」が求められる場合SHAP

たとえ話でもう一度!

状況LIMESHAP
工場の製品検査現場で1つずつ目視チェックして不良品理由を推測全製品の検査記録を分析して原因を統計的に導出
試験の点数の説明「この1問が合否を分けた」と局所で分析「全科目の合計から、どの科目が一番貢献したか」を見る

今後の学習の指針

LIMEとSHAPの違いを理解できたら、次は以下の内容を学んでみましょう:

  1. 実際にコードでLIMEとSHAPを動かしてみる(sklearn + shap + limeパッケージ)
  2. 複数のモデル(ランダムフォレスト、XGBoostなど)で比較してみる
  3. 説明可能AI(XAI)の全体像や、法的・倫理的背景にも触れてみる

モデルの精度だけでなく、「なぜそう判断したのか?」を説明できる力は、これからのAIエンジニアにとって欠かせません!

生成AI研修のおすすめメニュー

投稿者プロフィール

山崎講師
山崎講師代表取締役
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。