AI
ヒューマン・イン・ザ・ループ
Human-in-the-Loop（HITL）
AI の判断や生成結果に、人間の確認・承認を組み込む運用設計。
AIが出した結果をそのまま実行するのではなく、重要な判断の前に必ず人間が確認・承認する工程を挟む設計を指す。AI導入のリスクを下げる手段として提案されることが多い。
AIエージェントのように自律的に操作まで行う仕組みでは、どの操作の前に人を挟むかの設計そのものがガードレールの一部になる。
よくある誤解
人がチェックすれば安全だと思われがちだが、チェックが形骸化する自動化慣れが起きやすい。AIの出力が続けて正しかった経験が積み重なると、確認作業が形式的な承認だけになりやすく、精度が落ちた瞬間の見逃しにつながる。承認の質を維持する工夫までセットで設計する必要がある。
関連する用語
AIエージェント
与えられた目的に対して、AI が自ら手順を考え複数の作業を実行する仕組み。
ガードレール
AI が不適切・危険な出力や操作をしないよう外側から制限する仕組み。