AI利用の安全性を「便利さ」ではなくリスクで判断する

このレッスンのゴール

• AIサービスとAIエージェントの違いを、権限とデータの流れで説明できる
• AI利用の前に「何を渡し、何を実行させ、誰が確認するか」を整理できる
• 便利さと安全性のトレードオフを、禁止・解禁の二択にせず判断できる

AIは「答える道具」から「処理を進める道具」へ広がっている

チャット型AIは、入力に対して文章や画像などを生成します。AIエージェントは、そこにファイルの読み書き、検索、外部サービスの呼び出し、コマンド実行などが加わることがあります。危険度はAIの賢さだけで決まりません。AIに渡る情報、AIが持つ権限、実行結果を受け取る相手の三つで変わります。

たとえば、公開情報だけを使って要約する処理と、社内フォルダを読み取り、顧客向けメールを送信する処理では、同じAIでも守るべき境界が違います。最初に「AIに何ができるか」ではなく、次を1枚に書き出します。

1. 入力：個人情報、営業秘密、認証情報、公開情報のどれが入るか
2. 権限：読む、書く、送る、削除する、決済する、のどこまで許すか
3. 出力：誰が確認し、どのシステムへ渡るか
4. 失敗時：止められるか、元に戻せるか、影響範囲を追えるか

三つの基本原則

最小権限は、目的に必要な最小限のデータと操作だけを許す考え方です。ゼロトラストは、社内や自分の端末にあるから安全だと決めつけず、毎回アクセス対象と操作を確認する考え方です。多層防御は、一つの設定やプロンプトだけに頼らず、権限、隔離、確認、ログなど複数の層で被害を小さくする考え方です。

AIの出力は、もっともらしくても正しいとは限りません。AIを「責任者」ではなく、提案を出す処理担当として置き、重要な判断・公開・送信・削除は人または別の検証工程に残します。

まず作るミニ判断表

次の表を、使おうとしているAI業務ごとに埋めます。

この表が埋まらない処理は、AIを使う前に範囲を小さくします。学習者が最初に実行することは、実データを貼ることではなく、架空のデータでこの表を作ることです。

まとめ

AIセキュリティは、特別な設定を一つ入れて終わるものではありません。入力・権限・出力・復旧を先に分け、必要な範囲だけを許可し、重要な操作には確認を置きます。以後のレッスンでは、この判断表を使ってデータ、エージェント、成果物の安全性を点検します。

Q1. AIエージェントの安全性を考える最初の組み合わせとして適切なものはどれですか。

• モデル名、画面の色、利用時間
• 入力データ、操作権限、出力先
• プロンプトの長さ、フォント、端末の壁紙

Q2. 最小権限の説明として適切なものはどれですか。

• AIには最初から管理者権限を渡し、速さを優先する
• すべての操作を禁止してAIを使わない
• 目的に必要な最小限のデータと操作だけを許す

Q3. 重要なメール送信をAIに任せる場合の設計として適切なものはどれですか。

• 下書きまで自動化し、送信前に人が宛先・本文・添付を確認する
• 送信権限を広く与え、AIの判断だけで送信する
• 確認の代わりにプロンプトへ「絶対に間違えるな」と書く

振り返り

自分がAIに任せたい作業を一つ選び、入力・権限・出力先・確認者・復旧方法を、架空のデータで書いてください。空欄がある項目は、次に進む前に小さく設計し直します。

参考資料

• IPA「AI利用者のためのセキュリティ豆知識」（2026年8月9日確認）
• NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」（2026年8月9日確認）

※本講座は一般的な学習用資料です。自社の規程、契約、法令、サービスの利用条件がある場合は、それらを優先してください。