AI Agentへ何を任せるか — 成果・権限・証拠・停止
AI Agentは、目標を受け、情報や道具を使い、結果を確かめながら複数の作業を進める仕組みです。社長が技術の中身を作る必要はありませんが、任せる境界は決める必要があります。
図中の「Goal構文」は、目的・条件・完了基準を曖昧にしない依頼書です。経営者が見るべき要点は、証拠で検証し、危険または判断が必要なら人へ戻す分岐です。
社長が決める4つの境界
技術の中身ではなく、この4つだけを決めます。4つは独立ではなく、順番に効きます。
flowchart LR
A["成果<br/>何が良くなれば成功か"] --> B["権限<br/>何を読めて<br/>何を作成・送信・変更できるか"]
B --> C["証拠<br/>正しさを何で確認するか"]
C --> D["停止<br/>どの条件で人へ戻すか"]
D -.->|"止めた事例が<br/>次の成果定義を直す"| A
図:4つの境界。成果が決まらないと権限の範囲を絞れず、証拠を決めないと停止条件も書けません。逆順には決められません。
| 境界 | 確認する質問 | 「営業会議の準備」での答え |
|---|---|---|
| 成果 | 何が良くなれば成功か | 会議前の情報整理が90分から30分へ、見落とし件数も記録できる |
| 権限 | 何を読めて、何を作成・送信・変更できるか | CRMを読み、資料案を作る。顧客への連絡はしない |
| 証拠 | 結果の正しさを何で確認するか | リスク案件ごとに根拠リンクが付いているか |
| 停止 | どの条件で人へ戻すか | データが不足しているとき。営業責任者が確認する |
この4行が埋まらないうちは、まだ任せる段階ではありません。埋まらない欄がある状態で始めると、事故が起きたときに誰の判断だったのかを再現できません。
実データを使う前の確認
機密情報を扱う前に、送信先のAI事業者、保存期間、学習利用の有無、削除方法、再委託先、事故時の連絡経路を確認します。権限は担当者の全権限ではなく、仕事に必要な最小限にします。
| 影響度 | 例 | 最初の運用 |
|---|---|---|
| 低 | 社内向け要約案 | 抽出確認しながら自動化を増やす |
| 中 | 顧客メール案 | 人が毎回確認して送信する |
| 高 | 採否、契約、支払、公開、削除 | Agentだけで確定しない |
外部資料の指示を信用しない
Webページや添付ファイルに悪意ある指示が混ざり、Agentが意図しない行動を取ろうとすることがあります。外部資料を業務命令として扱わない、使える道具を限定する、重要操作前に人が確認する、という防御を重ねます。
出典・クレジット
- Anthropic: Building effective agents
- NIST: AI Risk Management Framework
- NIST: Strengthening AI Agent Hijacking Evaluations
本文は上記一次情報を事実確認の参考にして自社作成。外部素材の転載なし。
続きは無料登録で読めます
メールアドレスだけ・1分で登録できます。冒頭は登録なしで読めます。全文は無料登録(メールアドレスだけ)で全10回を読めます。
冒頭は登録なしで読めます。全文は無料登録(メールアドレスだけ)で全10回を読めます。