推論を安定させる指示 — 分解・基準・検証
AIに複雑な仕事を頼むと、もっともらしいけれど根拠の分からない答えが返ってくる。そんな時に必要なのは、AIの「頭の中」を長く書かせることではありません。問題を分け、判断基準を与え、結果を検証できる形にすることです。このレッスンでは、Chain-of-Thought(CoT)に頼りすぎないプロンプトの書き方を、分解・基準・検証の3点で身につけます。
学習目標
- Chain-of-Thought(CoT)と、確認可能な説明を区別できる
- 複雑な依頼を「分解・基準・検証」の3点で改善できる
- タスクに応じて、例示・チェックリスト・ツール検証を使い分けられる
CoTを目的にしない
Chain-of-Thought は、モデルが段階的な推論を行うこと、またはその推論らしい文章を出力することを指します。難しい課題で性能を高める場合がありますが、表示された説明がモデル内部の判断を忠実に表すとは限りません。
そのため、実務では「思考過程を全部見せて」と頼むより、次を求める方が確認しやすくなります。
- 結論
- 前提条件
- 判断に使った根拠
- 比較した選択肢
- 不確かな点
- 次に人が確認する項目
長い説明は正しさの証拠ではありません。 説明の長さではなく、根拠やテストへ戻れるかで判断します。
1. 問題を分解する
依頼が複雑なときは、一気に完成品を求めず、作業単位を明らかにします。
この依頼を実行可能な作業に分解してください。
各作業について、必要な入力、成果物、未確認事項を示してください。
情報が不足している場合は、推測せず質問してください。
分解の目的は、AIへ細かな作業を強制することではありません。人間が途中で確認すべき地点を見つけることです。
2. 判断基準を与える
「良い案を出して」だけでは、良さの意味が定まりません。用途に合う基準を先に渡します。
3案を比較してください。
評価基準は、導入時間、運用負荷、情報漏洩リスクです。
各基準を「低・中・高」で評価し、根拠と未確認事項を添えてください。
最終決定はせず、追加確認が必要な点を最後に列挙してください。
形式を揃えたい場合は、良い完成例を1〜2件示す方法も有効です。ただし、例の内容まで誤って真似しないよう、何を模倣し、何を変えるかを明記します。
3. 外から検証する
AI自身の再確認だけに頼らず、課題に合う外部の確認方法を使います。
| 課題 | 確認方法 |
|---|---|
| 数値計算 | 電卓、表計算、コードで再計算する |
| 事実・制度 | 一次情報の該当箇所と照合する |
| コード | テスト、静的解析、差分レビューを行う |
| 文書 | 要件チェックリストと元資料を照合する |
| 意思決定 | 反対案、失敗条件、未確認事項を確認する |
高リスクな判断では、AIの説明がもっともらしくても、専門家や権限者の確認を省略しません。
使い分け
- 単純な変換・要約:完成形式と禁止事項を明確にする
- 複数案の比較:評価基準と重みを先に決める
- 未知の問題:分解し、不足情報を質問させる
- 反復業務:良い例とチェックリストを渡す
- 高リスク業務:根拠、外部検証、人の承認を必須にする
モデルや設定によっては、AI側の推論機能が自動で働きます。手書きの細かな思考手順を常に強制するより、目的・制約・検証条件を明確にする方が、別のモデルでも再利用しやすくなります。
ミニ演習
次の依頼を「分解・基準・検証」を含む形へ直してください。
新しい問い合わせ対応ツールを選んで。
最低限、対象ユーザー、候補範囲、評価基準、利用できる根拠、未確認事項、最終決定者を含めます。
まとめ
- CoTらしい説明は、内部の判断を忠実に表すとは限らない
- 実務では「分解・基準・検証」で出力を確認可能にする
- 長い説明より、根拠・不確実性・テスト結果を見る
- 例示は形式を揃えるのに有効だが、模倣範囲を明確にする
- 高リスク業務は外部検証と人の承認を省略しない
出典・クレジット
- Anthropic — Prompting best practices
- Anthropic — Measuring faithfulness in Chain-of-Thought reasoning
本文の構成・図・演習は本教材のために作成。外部資料は現在の推論機能の扱いとCoTの限界の確認にのみ使用しています。
メールアドレスだけ・1分で登録できます。冒頭は登録なしで読めます。全文は無料登録(メールアドレスだけ)で全11回を読めます。
冒頭は登録なしで読めます。全文は無料登録(メールアドレスだけ)で全11回を読めます。