中小企業のためのAIと人の分掌設計入門。任せる範囲と、承認の境界 【Human-in-the-loop】

「これはAIに任せていいのか」「人が決めるべきことではないか」——AIを業務に入れていくと、この問いが繰り返し出てきます。この記事では、業務を「任せる・確認する・人が決める」の3段階に分ける考え方と、承認の基準の置き方、少人数でも回せる形の作り方を整理します。

Human-in-the-loop とは

Human-in-the-loop（ヒューマン・イン・ザ・ループ）とは、AIシステムの意思決定ループに人間が介在し、承認・訂正・フィードバックを与える設計の考え方です。語源は制御工学やHCI（人とコンピュータの相互作用）の研究分野にあり、機械学習の文脈では「人間がラベルを付けてモデルを改善するサイクル」を指す語として定着してきました。現在のAI活用実務では、端的に「高い影響力を持つアクションを実行する前に、人間が承認・中断できる設計」として使われています。

業務を3段階に仕分ける

業務をAIと人でどう分けるかを決めるとき、「任せる・確認する・人が決める」の3段階を軸にすると整理しやすくなります。

任せる: AIが処理し、人は原則として確認しない。誤りがあっても後から修正できる業務。請求書の転記、会議録の要約、議事録のフォーマット整形などが該当します。

確認する: AIが処理したうえで、人が目を通してから次のアクションに移る。取引先や顧客に届く前の文章、承認が必要な提案内容がこれにあたります。問い合わせへの返信案、見積書の下書き、提案文書の初稿などです。

人が決める: AIは情報の整理と候補の提示を担い、最終判断は人が行う。後から取り消しにくい決定、組織の意思を対外的に示すものが対象です。取引の開始・停止、採用の合否、公式声明の発出などがこれにあたります。

この3段階を使って、担当している業務を一つずつ仕分けることが分掌設計の第一歩になります。

承認を挟む基準の置き方

「確認する」と「人が決める」の境界は、業務や組織によって異なります。以下の問いを基準として使うと、判断がしやすくなります。

1. 取り消せるか: 送信・公開・支払いのように取り消しが効かない場合は、人が承認する
2. 外部に出るか: 顧客・取引先・行政など社外の相手に届く場合は、人が目を通す
3. 金額が絡むか: 一定額を超える取引や費用承認は人が判断する
4. 個人情報が含まれるか: 候補者情報・顧客データを含む処理は、用途を確認してから進める

いずれかが「はい」になる場合は、確認または承認のステップを入れる、という基準を持つだけで、迷う場面が減ります。

少人数でも続く形にするには

中小企業では推進担当が1人だったり、兼務だったりすることが多いですよね。「あの人に聞かないと分からない」という属人化が起きやすい環境です。

分掌設計を機能させ続けるには、ルールを人の頭ではなく文書に置く必要があります。「この業務はどこで確認し、誰が最終判断するか」を一枚にまとめておくだけで、担当者が変わっても同じ判断ができる状態を保てます。承認の基準を文書化するこの作業は、AIの導入を機に業務フローを整理するよい機会でもあります。形式は凝らなくて構いません。業務名・担当者・確認のタイミング・最終判断者の4列を並べた一枚の表があれば、出発点として十分です。実際に動かしながら項目を足し、使いながら育てていく形が現場に合った進め方です。