Human in the Loop と Human on the Loop：AI システムにおける人間の役割の違い
山崎講師こんにちは。ゆうせいです。
機械学習やAIを活用したシステムを開発するとき、そのシステムにどの程度の人間の判断を組み込むかという問題が発生します。完全に自動化された意思決定システムもあれば、人間が最終判断を行うシステムもあります。その中間には、複数のアプローチが存在し、「Human in the Loop」と「Human on the Loop」という二つの概念で説明されます。本記事では、これらの違いと、それぞれがどのような場面で使われるのかを解説します。
Human in the Loop とは
Human in the Loop（HITL）は、意思決定プロセスに人間が組み込まれている状態を指します。システムが提案した結果に対して、人間がそれを検証し、承認するか、修正するか、または棄却するかを判断します。人間の判断がシステムの意思決定プロセスの一部になっているため、「ループの中に入っている」という表現が使われます。
より詳しく言うと、Human in the Loop では以下のプロセスが繰り返されます。
システムがデータを分析し、候補となる複数の選択肢または推奨事項を生成する。
人間がそれらの選択肢を検討し、評価する。
人間が最終的な決定を下し、システムに反映させる。
その反映された判断がシステムの学習データとなり、今後の提案の精度向上に利用される。
このプロセスの特徴は、最終的な責任が人間にある点です。
Human on the Loop とは
Human on the Loop（HOTL）は、システムがほぼ自動的に意思決定を行い、その過程を人間が監視している状態を指します。通常の運用ではシステムの判断に従いますが、異常や問題が発生した場合は、人間が介入して対応します。人間が「ループの上に立って」全体を見守っているというイメージから、この表現が使われます。
Human on the Loop では以下のプロセスが基本です。
システムが自動的にデータを分析し、判断を下す。
人間はシステムの挙動を監視し、ダッシュボードやアラートで確認する。
異常や予期しない結果が発生した場合のみ、人間がシステムに介入する。
人間が介入した際の判断は、システムの学習に利用され、今後の自動判断の改善に役立つ。
このプロセスの特徴は、日常的な意思決定はシステムが行い、人間は監視役に徹する点です。
名前の由来と区別方法
「in the Loop」と「on the Loop」という表現の違いは、人間の位置を表しています。
「in」は「内部に」という意味で、ループの中に人間が含まれている、つまり各ステップで人間の判断が必須という意味です。
「on」は「上に」という意味で、ループの上から監視するが、常に介入しているわけではないという意味です。
この違いは、プロセスの流れにおける人間の必要性を表現しています。
具体的な実装例
例1：メール振り分けシステム
スパムメール判定システムを例に、二つのアプローチの違いを説明します。
Human in the Loop 方式では、システムがメールをスパムの可能性により分類します。その結果をユーザーが確認し、「これは本当にスパムか」を判断します。間違いがあれば修正し、その情報をシステムに戻します。すべてのメールについて、人間の判断を経てから、フォルダに振り分けられます。
Human on the Loop 方式では、システムがメールを自動的に振り分けます。ほとんどのユーザーは、受信箱を見て、システムの判定に従います。ただし、重要なメールが誤ってスパムフォルダに入った場合、ユーザーはそれを発見し、「これはスパムではない」と示します。その情報がシステムに返され、次回以降の判定精度が改善されます。
例2：医療診断システム
放射線画像（X線やCTスキャン）の診断にAIを活用する場合。
Human in the Loop 方式では、AIが画像を分析し、「腫瘍の可能性がある領域」を特定し、医師に提示します。医師はAIの提案を確認し、実際の診断を下します。最終的な判断は医師が行い、その判断がAIの学習に反映されます。すべての診断プロセスで医師の介入が必須です。
Human on the Loop 方式では、AIが画像を分析し、「腫瘍の可能性が高い」と自動判定します。その判定結果が医師のレポートシステムに自動送信されます。医師は定期的にAIの判定結果を確認し、通常は承認します。ただし、AIが明らかに誤判定した場合（見落とし、誤検出）、医師がそれを指摘し、記録に残します。その記録がAIの改善に使われます。
例3：在庫管理システム
ECサイトの在庫を自動で発注する場合。
Human in the Loop 方式では、システムが「この商品の在庫が少なくなったから、発注すべき」と提案します。在庫管理担当者がその提案を確認し、現在の市場状況、保存スペース、資金などを考慮した上で、発注量を決定します。すべての発注について、人間の判断を経ます。
Human on the Loop 方式では、システムが自動的に発注を実行します。通常、システムの判定に従い、発注が進みます。ただし、異常な需要変動が起きた場合（急激な売れ行きの変化など）、在庫管理担当者がシステムの判定を調整します。システムは、その調整内容から学習し、次の判定に反映させます。
各アプローチの利点と欠点
Human in the Loop の利点
人間の判断が最終的に保証されるため、システムのエラーによる重大な失敗を防げます。
医療、法律、金融など、責任が重い分野に適しています。
システムが学習する過程で、人間の多様な視点が反映されるため、AI の偏見を軽減できます。
Human in the Loop の欠点
すべての意思決定に人間の時間と労力が必要となるため、スケーラビリティに限界があります。
大量のデータを処理する場合、ボトルネックになる可能性があります。
人間の判断にばらつきがあれば、学習データの質が低下することもあります。
Human on the Loop の利点
システムが自動的に大量の判定を行うため、スケーラビリティが高いです。
人間が常に関与する必要がないため、運用コストが低くなります。
通常運用では効率的に機能し、異常時のみ人間が対応するため、人間のリソースを有効活用できます。
Human on the Loop の欠点
システムのエラーが累積する可能性があります。人間が異常に気付くまで、誤った判定が続く恐れがあります。
人間の監視が不十分な場合、問題の発見が遅れます。
システムが高精度で動作している場合、人間が監視を怠る傾向があります（オートメーションバイアス）。
どちらを選ぶかの判断基準
Human in the Loop を選ぶべき場面
システムの判定が誤った場合、社会的・経済的・生命に関わる重大な影響が生じる分野。例えば医療診断、司法判断、重大な融資決定。
システムが学習する過程で、人間の多様な判断を反映させることが重要な分野。
実装の初期段階で、システムの信頼性がまだ十分ではない段階。
ユーザーが システムの判断根拠を理解し、納得した上で進める必要がある分野。
Human on the Loop を選ぶべき場面
大量のデータを高速に処理する必要がある分野。例えばEコマースの推奨システム、自動スパム検出。
システムがすでに高精度で動作しており、人間の監視でさらなる改善を図る段階。
コスト効率が重要で、人間のリソースを最小限に抑える必要がある場合。
異常検知が容易で、問題が発生した場合に人間が迅速に対応できる体制が整っている場合。
実装時の注意点
Human in the Loop を実装する場合、人間が判断するための十分な情報と、判断を下すための時間を確保する必要があります。UIの設計が重要になります。
Human on the Loop を実装する場合、システムの異常を検知するアラート機構が不可欠です。閾値の設定に注意が必要です。閾値が高すぎると問題が見逃され、低すぎると誤検知が増えます。
また、人間がシステムを監視する際のオートメーションバイアス（システムの判定を過度に信頼する傾向）を軽減するための工夫が必要です。例えば、定期的にシステムの判定を抽出してレビューする、複数の監視者が確認するなどの方法があります。
まとめ
Human in the Loop は人間が意思決定プロセスに組み込まれた方式で、最終的な責任が人間にあります。Human on the Loop はシステムが自動的に判定し、人間が監視する方式で、異常時のみ人間が介入します。
前者は信頼性と正確性が重要な場面に適し、後者はスケーラビリティと効率が重要な場面に適しています。実装するシステムの特性、対象分野のリスク、利用可能なリソースを総合的に判断して、どちらのアプローチを採用するかを決定することが重要です。
次のステップとして、自分が開発しているシステムにおいて、「人間の判断がどこに必要か」「人間が介入しない場合の影響は何か」を具体的に検討してみることをお勧めします。その検討プロセスを通じて、両者のアプローチの本質的な違いと、それぞれの役割がより深く理解できるようになるでしょう。
投稿者プロフィール
