今なお解決が難しいAIの4つの問題とは？
山崎講師こんにちは。ゆうせいです。
AIは便利な技術ですが、完璧ではありません。さまざまな問題を抱えており、エンジニアとしてはこれらを理解しておくことが重要です。今回は 「フレーム問題」「シンボルグラウンディング問題」「AI効果」「ハルシネーション」 という4つの重要な課題について解説します。
「AIは万能じゃないの？」と思っている人もいるかもしれません。でも、実際には AIには苦手なことや、時には間違った情報を出すことがある のです。それぞれ詳しく見ていきましょう！
フレーム問題：AIは何を無視すべきかを決められない
問題の概要
AIは環境の変化に応じて適切な判断をする必要があります。しかし、現実世界には無限の情報があり、どれを考慮すべきか、どれを無視すべきかを決めるのは簡単ではありません。
「どの情報を考慮し、どの情報を無視すべきかを決められない」という問題が フレーム問題（Frame Problem） です。
具体例
たとえば、ロボットが部屋を掃除するとします。
- 理想のロボット
- 床のゴミを認識し、吸い取る
- ゴミ箱に捨てる
- 家具にぶつからない
- フレーム問題があるロボット
- 「床の材質は関係あるのか？」
- 「掃除機のモーター音は近くの犬に影響するのか？」
- 「この掃除で地球温暖化に影響が出るのか？」
- …無限に考えすぎて動けない！
現実世界には無数の情報が存在し、AIは「どこまで考えるべきか」を決めるのが苦手 なのです。その結果、判断が遅くなったり、最悪の場合まったく動かなくなったりします。
シンボルグラウンディング問題：AIは意味を理解していない
問題の概要
人間は「りんご」と言われれば、それが赤くて甘い果物だとわかります。しかし、AIにとって「りんご」という単語はただのデータに過ぎません。
「AIが扱う記号（シンボル）に、現実世界の意味をどのように結びつけるか？」という問題を シンボルグラウンディング問題（Symbol Grounding Problem） と言います。
具体例
たとえば、AIに「犬とは何か？」と教えるとき、次のようなデータを与えることができます。
| 特徴 | 値 |
|---|---|
| 4本の足 | あり |
| 尻尾 | あり |
| 吠える | する |
| 哺乳類 | である |
しかし、AIはこのデータを「犬の意味」として本当に理解しているわけではありません。
人間は実際に犬を見たり、触ったりして「犬とは何か」を体験から学びます。しかし、AIはただデータを処理しているだけで、概念を持っているわけではないのです。
つまり、AIは記号を処理できるが、それが何を意味するのかを理解していない のです。
AI効果：AIがすごくてもすごくないと思われる問題
問題の概要
AIがどんなにすごいことをしても、人間はそれを「当たり前」と思ってしまうことがあります。この心理現象を AI効果（AI Effect） と呼びます。
「AIができたことはAIではない」と言われることが多く、AIの進化が過小評価されることもあります。
具体例
- かつて「AIがチェスで人間に勝つのは不可能」と言われていた
- しかし1997年、IBMのディープ・ブルーが世界チャンピオンのカスパロフに勝った
- すると「チェスは計算の問題だから、AIができてもAIらしくない」と言われた
つまり、AIが何かを成し遂げると、それはAIではなく普通の技術だと見なされる のです。
最近では、スマホの顔認識や音声アシスタント（Siri、Alexaなど）も当たり前になっています。でも、これらは10年前なら「AIのすごい技術」だったのです。
AIが進化するたびに「そんなのAIじゃない」と言われるので、AIの発展が過小評価されがちなのです。
ハルシネーション：AIがでたらめを言う問題
問題の概要
AIは時々、まったくのデタラメを自信満々に答えることがあります。この現象を ハルシネーション（Hallucination） と言います。
AIは確率的に言葉をつなげる仕組みなので、「それっぽいけど間違った答え」を作り出すことがあるのです。
具体例
- AIに歴史の質問をする
- ユーザー：「1945年にアメリカ大統領だったのは？」
- AI：「ウィンストン・チャーチルです！」（←間違い）
- AIにプログラムのコードを書かせる
- 正しい文法に見えるが、実行するとエラーが出る
- まったく存在しない関数を作り出す
- AIに論文を書かせる
- それっぽい文章を作るが、実際には出典が存在しない
このように、AIは「知らない」とは言わず、それっぽい答えを作る ので、注意が必要です。特に、医療や法律などの重要な分野では大きな問題になります。
まとめと今後の学習
AIはすごい技術ですが、まだまだ課題があります。特に、以下の4つの問題はエンジニアとしてしっかり理解しておくべきです。
- フレーム問題：何を考慮し、何を無視すべきかを決められない
- シンボルグラウンディング問題：AIは記号を処理するが、意味を理解していない
- AI効果：AIの進化は過小評価されがち
- ハルシネーション：AIは自信満々に間違ったことを言う
今後の学習として、以下のトピックを学ぶとより理解が深まります！
- 知識表現と論理推論（フレーム問題を解決する方法）
- 自然言語処理と意味理解（シンボルグラウンディング問題へのアプローチ）
- 生成AIのリスク管理（ハルシネーションを防ぐ方法）
AIを扱うエンジニアとして、これらの問題をしっかり理解し、より安全で信頼できるAIを開発していきましょう！
当社では、AI関連の研修を提供しております。
投稿者プロフィール
- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。
