第5話AI・デジタル

ヒューマン・イン・ザ・ループHuman-in-the-Loop「最後に決めるのは、人間だ」

ひゅーまん・いん・ざ・るーぷ

第5話最後に決めるのは、人間だ
起権藤HD 役員会議室AIに全部任せろ!人の確認など時間のムダだ!…それは破滅への道だ
承00007919583837571676959575145433335212719190710950282947086687856704462325420461838062994218213700567975HITLAIの仕事の流れに人の確認・承認を組み込む考え方…人が輪の中に立つAIに任せ切るな。要所で人が止めるのだ…
転ドン!ドン!な…なんだと…!?では誰が確認するのだ!?重要な案件の最終承認は会長です
結ガーンガーン1週間後――承認待ち1万件…!AIに承認させろ!1コマ目に戻りました
セリフを文字で読む
  • 1(権藤HD 役員会議室)
  • 1権藤会長「AIに全部任せろ!人の確認など時間のムダだ!」
  • 1九条「…それは破滅への道だ」
  • 2九条「AIに任せ切るな。要所で人が止めるのだ…」
  • 3権藤会長「な…なんだと…!?では誰が確認するのだ!?」
  • 3氷室「重要な案件の最終承認は会長です」
  • 3(ドン!)
  • 4(1週間後――)
  • 4権藤会長「承認待ち1万件…!AIに承認させろ!」
  • 4氷室「1コマ目に戻りました」
  • 4(ガーン)
3行でわかる「ヒューマン・イン・ザ・ループ」
  1. ヒューマン・イン・ザ・ループとは、AIの判断や作業の流れ(ループ)の中に、人の確認・修正・承認を組み込む考え方のこと。
  2. AIが仕事を「実行」するようになるほど、どこで人が止められるかが安全と信頼のカギになる。
  3. ただし人をたくさん入れればよいわけではない。影響の大きい場面に絞り、確認しやすい形で人を置くことが大切。

徹底解説ヒューマン・イン・ザ・ループ

ヒューマン・イン・ザ・ループとは

ヒューマン・イン・ザ・ループ(Human-in-the-Loop、略してHITL)とは、AIが判断したり作業したりする流れ(ループ)の中に、人の確認・修正・承認を組み込む考え方のことです。直訳すると「人が輪の中にいる」。AIの仕事の流れから人を外さず、要所で人が関わり続ける、という意味です。

もともとは、機械の制御やAIの開発の分野で使われてきた言葉です。たとえばAIに学習させるデータに人が正解のラベルをつけたり、AIの出した答えを人が採点して改善したりすることも、ヒューマン・イン・ザ・ループと呼ばれます。

それが今、経営の言葉として注目されている理由は、AIが「答えるだけ」から「実行する」ようになってきたからです。第1話で紹介したエージェンティックAIのように、AIがメールを送ったり、発注したりするようになると、「どこで人が確認し、止められるのか」が、安全と信頼を左右する大きなテーマになります。

図1ヒューマン・イン・ザ・ループの基本の輪
人の確認① AIが案を作る② 人が確認・修正する③ 承認して実行する④ 結果を記録する⑤ 直した点でAIを改善

人の関わり方には3つの段階がある

人がAIの流れにどれだけ関わるかは、一般に次の3つに分けて説明されます。

図2人がどこまで関わるか 3つの段階
イン・ザ・ループ人が1件ずつ確認・承認するオン・ザ・ループAIが進め、人が見張り止めるアウト・オブ・ループ人は関わらずAIが完結
段階人の役割向いている仕事の例
ヒューマン・イン・ザ・ループ
(人が輪の中)
AIの案を1件ずつ人が確認し、承認してから実行するお客様への見積書の送付、契約に関わる連絡、採用の判断材料づくり
ヒューマン・オン・ザ・ループ
(人が輪の上)
AIが自動で進め、人は全体を見張り、おかしいときに止める問い合わせの自動振り分け、在庫の補充提案
ヒューマン・アウト・オブ・ザ・ループ
(人は輪の外)
人は関わらず、AIだけで完結する迷惑メールの自動よけ、社内向けの簡単な文章の整形

どれが正解というわけではなく、仕事の種類によって使い分けるのがポイントです。なお、EUのAI規制法(AI Act)でも、リスクの高いAIについては人による監督(ヒューマン・オーバーサイト)が求められるとされており、「人が関わる仕組み」は世界的にも重視されています。

どこに人を入れるべきか

すべての作業に人の確認を入れると、AIを使う意味がなくなってしまいます。人を入れる場所は、「まちがえたときの影響の大きさ」と「AIの答えがどれだけ確かか」で考えると整理しやすくなります。

図3どこに「人の確認」を入れるか
抜き取り確認AIに任せ、時々人がチェック人が承認するAIの案を人が確認して実行人が見張るAIが進め、異常があれば人が止める人が判断するAIは材料集めにとどめる小さい大きいまちがえたときの影響低い高いAIの確からしさ

とくに影響の大きい仕事では、AIがどれだけ優秀に見えても、人が最終的に確認・承認する形が基本です。反対に、影響が小さく、AIの答えも安定している仕事は、時々の抜き取り確認で十分なこともあります。

オチの会長は…「最終承認は会長です」と言われた結果、承認待ちが1万件たまり、ついに「AIに承認させろ!」――1コマ目の「AIに全部任せろ」に逆戻りしてしまいました。これは笑い話ではなく、ヒューマン・イン・ザ・ループのよくある失敗です。人に確認を集中させすぎると、確認が形だけになり、結局だれもちゃんと見ていない状態になります。人を入れる場所は、絞り込むことが大切なのです。

「形だけの承認」にしないための工夫

人の確認を入れても、次のような状態では意味がありません。

  • 大量の承認依頼が届き、中身を見ずに「承認」ボタンを押し続ける(いわゆる承認疲れ)
  • AIの答えはいつも正しいと思い込み、まちがいを見逃す(自動化への過信)
  • 何を確認すればよいかわからず、表面だけ眺めて終わる

これを防ぐには、人が「見るべき点」に集中できる流れを設計することが大切です。

図4「形だけの承認」にしない確認の流れ(例)
01AIが下書き見積書の案を作る02要点を表示根拠と違う点を強調する03人が確認見るべき点に集中して確認する04承認・差戻し理由をひと言残す05記録・学習直した点を次に生かす
  1. AIが下書き:AIが見積書やメールなどの案を作ります。
  2. 要点を表示:AIが「なぜこの金額にしたか」「いつもと違う点はどこか」を示し、人が見るべき点を強調します。
  3. 人が確認:担当者は全部を読み直すのではなく、強調された点を中心に確認します。
  4. 承認・差し戻し:承認するか差し戻すかを決め、差し戻す場合は理由をひと言残します。
  5. 記録・学習:人が直した点を記録し、次からAIへの指示やルールの改善に生かします。

中小企業での使い方の例

ヒューマン・イン・ザ・ループは、大がかりなシステムがなくても始められます。身近な業務での例を挙げます。

業務AIがすること人がすること(ループの中の役割)
お客様へのメール返信問い合わせを読み、返信の下書きを作る内容・言葉づかい・約束事項を確認して送信する
見積書の作成過去の見積もりを参考に金額と内訳の案を作るいつもと違う条件や値引きを確認し、承認する
求人応募の整理応募書類を読み、条件に合うかの要点をまとめる合否の判断は人が行い、AIのまとめは参考にとどめる
SNS投稿の作成投稿文の案をいくつか作る事実や表現に問題がないか確認してから投稿する

どの例でも、社外に出る直前、お金が動く直前、人の人生に関わる判断の直前に人が入っていることがわかります。これが「人を入れる場所」を考えるときの基本的な目安です。

導入のチェックリスト

決めること具体例
どこで止めるか「社外に送る前」「10万円以上の発注の前」など、人が確認するタイミング
誰が確認するかその仕事の内容がわかる担当者(役職が高い人とは限らない)
何を見るか金額・宛先・約束事項など、確認すべき項目を絞って決めておく
確認の量は適切か1人あたりの承認件数が多すぎないか、定期的に見直す
記録を残すか誰が・いつ・何を承認/修正したかを残し、後から振り返れるようにする
注意:AIに関する規制やガイドラインは国や地域によって異なり、内容も更新が続いています。業種によっては、人の確認が法令や業界のルールで求められる場合もあります。導入時は最新の公式情報を確認してください。

関連キーワード

  • エージェンティックAI:目標を与えると、自分で計画し、ツールを使って仕事をやり遂げるAI(第1話)。
  • ヒューマン・オン・ザ・ループ:AIが自動で進め、人は監視役として必要なときだけ介入する考え方。
  • 承認疲れ:確認・承認の依頼が多すぎて、中身を見ずに承認してしまう状態。
  • AIガバナンス:AIを安全・公正に使うための社内ルールや管理の仕組み。
結論

ヒューマン・イン・ザ・ループは「AIを信用しない仕組み」ではなく「AIに安心して任せるための仕組み」。どこで、誰が、何を見て、止めるかを決めた会社が、AIを本当に使いこなせる。

九条の一言

人を輪に入れよ。…だが、人を溺れさせるな。