PM NOTE
記事
ヒューマン・イン・ザ・ループとは?AIの判断に人が関わる仕組み
AIに仕事を任せたいけれど、任せきりにするのは不安だ。かといって、すべてを人が確かめていては手間が減らない。AIの判断や処理の中に人が関わる場面を組み込むヒューマン・イン・ザ・ループの考え方と、どこに人を置くかの決め方を整理します。

ヒューマン・イン・ザ・ループとは、AIが判断や処理を行う流れの中に、人が関わる場面を組み込む仕組みのことです。英語の Human-in-the-Loop をそのまま読んだ言葉で、「輪(ループ)の中に人がいる」という意味です。AIに仕事を任せきりにするのでも、人がすべてを行うのでもなく、AIと人がそれぞれの得意なところを担い、大事な場面で人が確かめたり決めたりします。
AIに任せられる仕事が増えるほど、どこで人が関わるかを決めることが大切になります。関わる場面が少なすぎれば誤りが外に出てしまい、多すぎれば人の手間が減らず、AIを使う意味が薄れます。この記事では、ヒューマン・イン・ザ・ループの考え方と、人が関わる場面の種類、どこに人を置くかの判断の基準、設計の手順、よくある失敗を紹介します。
人が関わる場面の種類
人がAIの流れに関わる方法には、いくつかの種類があります。
- 実行の前に承認する:AIが出した案を、人が確かめて承認してから実行する。たとえば、AIが書いた返信を人が確かめてから送る
- 迷ったときだけ人に回す:AIが自信を持てないもの、決まった条件に当てはまるものだけを人に回す。それ以外はAIが処理する
- あとから確かめる:AIが処理したあとで、一部を人が抜き出して確かめ、誤りがあれば直す
- AIを育てる:人が直した結果や判断を記録し、AIへの指示や仕組みの改善に生かす
どれか一つを選ぶのではなく、仕事の性格に合わせて組み合わせます。たとえば、ふだんは迷ったときだけ人に回し、週に一度あとから一部を確かめる、といった形です。
どこに人を置くかの判断の基準
人が関わる場面を決めるときは、次の問いで考えます。
- 誤りの影響の大きさ:間違えたとき、顧客や会社にどれだけの影響が出るか
- 取り返しのつきやすさ:あとから直せるか。外に出たら取り消せないか
- 判断の難しさ:決まった基準で判断できるか。人の事情や気持ちを汲む必要があるか
- 量と速さ:処理する量がどれくらい多く、どれくらい速さが求められるか
- 説明の必要性:なぜその判断をしたのかを、誰かに説明する必要があるか
目安としては、誤りの影響が大きく、取り返しがつかないものは実行の前に人が承認します。影響が小さく、量が多いものは、迷ったときだけ人に回すか、あとから確かめる形にします。人の事情や気持ちを汲む判断、説明が求められる判断は、人が最終的に決めるようにします。
設計の手順
- 仕事の流れを書き出す:始まりから終わりまで、どんな作業や判断があるかを並べる
- 作業ごとに誤りの影響を見る:それぞれの作業で、AIが間違えたら何が起きるかを書く
- 人が関わる場面と方法を決める:承認、迷ったときだけ、あとから確かめる、のどれにするかを決める
- 人に回す条件を決める:どんな場合に人に回すのかを、できるだけ具体的に書く
- 確かめる人と基準を決める:誰が、何を見て、良し悪しを判断するかを決める
- 記録して見直す:人が直した内容を記録し、定期的に人の関わり方を見直す
4つ目の手順が肝心です。「判断が難しいものは人に回す」では、何が難しいのかが人によって違い、運用がぶれます。「金額が一定を超えるもの」「顧客から苦情の言葉が含まれるもの」「初めての取引先からのもの」のように、具体的な条件で書きます。
決めておく項目の表
ヒューマン・イン・ザ・ループの設計は、次のような項目で一枚にまとめておくと、関わる人の間で認識がそろいます。
- 作業:AIが担う作業は何か
- 誤りの影響:間違えたら何が起き、あとから直せるか
- 人の関わり方:実行の前の承認、迷ったときだけ、あとから確かめる、のどれか
- 人に回す条件:どんな場合に人に回すかの具体的な条件
- 確かめる人と交代の人:誰が確かめ、その人がいないときは誰が代わるか
- 記録の方法:直した内容を、どこに、どう残すか
- 見直しの時期:関わり方を見直す時期
責任のありかをはっきりさせる
AIが処理した結果に問題があったとき、誰が責任を持つのかをはっきりさせておくことも大切です。AIは責任を負えません。人が承認した場面では承認した人とその上の責任者、あとから確かめる形の場面では仕組みを決めた人と運用の責任者、というように、場面ごとに責任のありかを決めます。
責任のありかが決まっていると、問題が起きたときの対応が早くなり、確かめる人も自分の役割の重さを理解したうえで仕事ができます。反対に、責任があいまいなまま運用すると、問題が起きたときに「AIがやったこと」として誰も対応しない、ということが起きます。
確かめる人の負担を考える
ヒューマン・イン・ザ・ループでよく起きるのが、確かめる人に負担が集中することです。AIが速く大量に処理するほど、確かめる量も増えます。次のような工夫で、負担を抑えます。
- すべてを確かめるのではなく、条件に当てはまるものと、一部の抜き出しに絞る
- AIが、なぜその判断をしたのかの理由も一緒に出すようにして、確かめやすくする
- 確かめる人を一人にせず、交代できるようにする
- 確かめる量が増えたら、人に回す条件を見直す
また、確かめる作業が形だけになる危険にも気をつけます。AIの出したものがいつも正しいと、人は中身を見ずに承認するようになりがちです。ときどき、わざと誤りを含むものを混ぜて確かめる、承認した人の名前を記録する、といった方法で、確かめる作業が生きているかを確かめます。
場面の例:問い合わせ対応にAIを使う場合
たとえば、顧客からの問い合わせへの返信に、AIを使うとします。最初は、AIが書いたすべての返信を担当者が確かめてから送ることにしました。誤りの影響が分からない段階では、実行の前に人が承認するのが安全だからです。
数週間続けて、担当者が直した内容を記録すると、よくある質問への返信はほとんど直す必要がないことが分かりました。一方で、料金や契約にかかわる質問、苦情を含む問い合わせは、直すことが多いと分かりました。そこで、よくある質問はAIの返信をそのまま送り、週に一度一部を抜き出して確かめる形に変えます。料金や契約、苦情にかかわるものは、引き続き担当者が承認してから送ります。
こうして、人が関わる場面を、記録をもとに少しずつ調整していくのが、ヒューマン・イン・ザ・ループの進め方です。最初から確かめる範囲を狭くしすぎず、記録を見ながら少しずつ任せる範囲を広げるほうが、結果として早く安全に進みます。
関連する考え方との位置づけ
AIエージェントのように、AIが自分で複数の作業を進める仕組みが広がるほど、ヒューマン・イン・ザ・ループの設計は重要になります。AIに任せる範囲が広がるほど、どこで人が止めたり確かめたりするかを決めておかないと、誤りが大きくなってから気づくことになるからです。AIエージェントの考え方はAIエージェントとは?仕事の任せ方がどう変わるかで、社内のルールづくりは生成AIを業務で使う。社内ルールと始め方で紹介しています。
よくある失敗
すべてを人が確かめ続ける
最初は安全のためにすべてを確かめるのがよいのですが、そのまま続けると、人の手間が減らず、AIを使う意味がなくなります。記録をもとに、確かめる範囲を見直します。
人に回す条件があいまい
「難しいもの」「大事なもの」のような条件では、運用がぶれます。具体的な条件で書きます。
確かめる作業が形だけになる
AIがいつも正しいと、人は中身を見なくなります。確かめる作業が生きているかを、定期的に確かめます。
直した内容を生かさない
人が直した内容は、AIへの指示や仕組みを改善する大事な材料です。記録して、見直しに使います。
確かめる人に権限がない
確かめる人が誤りに気づいても、止めたり直したりする権限がなければ、意味がありません。確かめる人には、送らない、差し戻す、といった判断をしてよい権限を渡しておきます。
見直しの時期を決めない
AIの使い方や仕事の量は変わっていきます。始めたときの関わり方のままにせず、時期を決めて見直します。
人が関わる場面を、意図して設計する
ヒューマン・イン・ザ・ループは、AIに任せることと、人が責任を持つことを両立させるための仕組みです。大事なのは、人が関わる場面を、なんとなくではなく、誤りの影響と取り返しのつきやすさから意図して決め、記録をもとに見直し続けることです。まずは、AIに任せている仕事を一つ選び、間違えたら何が起きるかを書き出すところから始めてみてください。
おまかせPMは、社内に進める人がいないプロジェクトを、進める役割ごとお引き受けするサービスです。AIを取り入れた仕事の流れの設計から相談したいときは、どこから手をつけるかの整理から、ご相談ください。
人が関わる場面を、なんとなくではなく、誤りの影響と取り返しのつきやすさから意図して決めます。