ヒューマン・イン・ザ・ループ

ヒューマン・イン・ザ・ループ（HITL）とは、AIによる処理の流れの中に、人間が確認・承認・修正・判断をする工程を組み込む設計のことです。直訳すると「人が輪（ループ）の中にいる」という意味です。AIに任せきりにせず、肝心なところでは人が責任を持つ、という考え方を表します。

なぜ必要なのか

AIは便利ですが、間違いをゼロにはできません。もっともらしい誤情報（ハルシネーション）や、指示の誤解、悪意のある入力（プロンプトインジェクション）による誤作動は起こりえます。特にAIエージェントが、メールの送信、支払い、データの削除、本番環境の変更のような「取り消しにくい操作」を実行できるとき、一度の誤りの影響は大きくなります。

人が関与する工程を挟むと、AIの速さと人の判断力を組み合わせられ、誤りが外に出る前に止められます。

関与のしかたの種類

• 事前承認：AIが案を作り、人が承認してから実行する。メールの下書き確認や、コマンド実行前の許可がこれにあたります。
• 例外対応：AIの確信度が低い、金額が一定以上、規則に当てはまらないなど、条件に該当するものだけを人に回す。
• 事後確認・抜き取り検査：AIが実行した結果を、後から一部サンプルで確認する。
• 修正と学習：人が直した結果を記録し、プロンプトの改善や評価用データに活かす。
• 人が主導：人が判断し、AIは下準備や選択肢の提示に徹する。

具体例

• 経費精算：AIが領収書を読み取って仕訳を作り、少額で規則どおりのものは自動処理、高額や不明点があるものは経理担当者が確認する。
• 医療・法務分野：AIが文書の要約や論点の候補を出し、専門家が最終的に判断する。
• コーディング：AIが提案した変更を、開発者がレビューして取り込む。エージェント型ツールのコマンド実行の許可も、これに近い仕組みです。
• 画像のAI審査：AIが明らかな違反を除外し、迷うケースを人が判定する。

設計のポイントと注意点

• 確認の量を適切にします。 何でもかんでも承認を求めると、人が内容を見ずに「承認」を押すだけになってしまいます（確認疲れ）。リスクの高い操作に絞り、判断材料を見やすく提示します。
• 人が判断できる情報を出します。 AIの結論だけでなく、根拠、参照した資料、変更の差分を示すと、確認の質が上がります。
• 人の判断を過信しません。 人も間違えますし、AIの提案に引きずられがち（自動化バイアス）です。重要な判断では、複数人での確認なども検討します。
• 費用と速度のバランスです。 人の確認を増やすと、安全性は上がりますが、速度と人件費の面でコストが増えます。リスクの大きさと照らして、関与の度合いを決めます。
• 責任の所在を明確にします。 誰が最終的に承認し、問題が起きたときに誰が対応するかを、決めておくことが重要です。

関連する考え方

入出力のルールで危険な動作を防ぐガードレールと組み合わせて使われます。エージェントに任せる範囲を広げるほど、どこに人を置くかの設計が重要になります。