安全に動かす

1理解する

人の承認が必要な4つの操作

どんな業務でも、次の4つの操作の直前には必ず人の確認を入れます。エージェントの仕事は「案を作って、人に見せて、止まる」までです。

ステップ03で「人」の印をつけた箇所と合わせて、これらを承認ポイントと呼びます。承認ポイントでは、エージェントは「ここまでやりました。実行してよいですか」と人に渡し、人が確認して実行します。

承認ポイントの置き方

承認が多すぎると、人の手間が減らず導入の意味がなくなります。少なすぎると危険です。目安は次のとおりです。

• 最初の数週間：すべての出力を人が確認してから使う（全件承認）。
• 安定してきたら：4つの操作と「人」の印の箇所だけ承認。それ以外はエージェントが進め、人は結果を後から見る（事後確認）。
• いつまでも承認を外さないもの：4つの操作。これは期間に関係なく、人が実行します。

記録を残す

エージェントが何を読み、何を判断し、何を出力したかを、後から追える形で残します。多くの製品には実行履歴（ログ）の機能がありますが、それに頼りきらず、業務の側でも次を残します。

• いつ、どのデータに対して動かしたか
• エージェントの出力（分類結果、下書きなど）
• 人が手直しした箇所と、その理由
• 承認ポイントで誰が承認したか

この記録は、間違いがあったときの原因調べ、ステップ07の評価、監査や説明責任への対応、すべてに使えます。

失敗したときの「止める・戻す・知らせる」

エージェントが間違えること自体は防げません。防ぐのは「間違いが広がること」です。次の3つを、動かし始める前に決めておきます。

暴走と漏えいを防ぐ

• 上限を決める：1回に処理する件数、1日の実行回数、利用料金の上限。想定外に回り続けることを防ぎます。
• 権限はステップ04のまま最小限に：便利だからと権限を広げない。広げるときは記録を残す。
• 入力する情報を見張る：個人情報や社外秘が、想定外の経路でエージェントに渡っていないか、記録で定期的に確かめる。
• 出力にも気をつける：返信案に他の顧客の情報が混ざるなど、出力側の漏えいもあります。承認ポイントでの確認項目に入れます。

2自社に当てはめて考える

1. 自分の業務の中で、4つの操作（送信・支払い・削除・公開）に当たる箇所と、ステップ03の「人」の印の箇所を、承認ポイントとして書き出す。
2. 最初の全件承認を何週間続けるか、その後どの承認を残すかを決める。
3. 何を記録するか、どこに残すかを決める。
4. 止める・戻す・知らせるの3つを、具体的な人の名前と手段で書く。
5. 件数・回数・料金の上限を決める。

3自社の情報を記入する — 安全チェックシート

本番で動かす前に、ここがすべて埋まっていることを確認してください。 入力は自動でこのブラウザに保存されます。保存しました

4次へ進む条件

次の項目にすべてチェックが入ったら、このステップは完了です。完了にすると、トップページと一覧に印がつき、進み具合として記録されます。

• 承認ポイントを書き出した（4つの操作＋「人」の印）
• 全件承認の期間と、その後残す承認を決めた
• 記録に残す項目と置き場所を決めた
• 止める・戻す・知らせるを、名前と手段つきで決めた
• 件数・回数・料金の上限を決めた

ステップ06は完了です。次のステップ07「評価して改善する」へ進んでください。