無料ツールへ戻るAIの権限と承認を試す
AIエージェントの安全を学ぶ演習
AIの権限と承認を試す
4つの演習
資料を読む・外へ送る・削除する。自分の代わりに操作するAIを「AIエージェント」と呼びます。この演習では、架空の設定を変えて、AIの操作を止めるべき場面を学びます。
やることは、3ステップ
- 014つの架空の場面から選ぶ
- 条件をひとつ変える
- 許可・拒否・保留の理由を確かめる
目標は「依頼」「権限」「承認」の違いを、自分で説明できるようになること。
本物の資料は不要です。実ファイルや外部サービスには接続せず、このページ内の固定ルールだけで判定します。AIモデルや有料APIは使いません。
設計の参考資料
最小権限、送信先の制限、重大操作の人間承認を学ぶための演習です。ここでの「秘密の持ち出し禁止」等は演習のポリシーであり、全製品共通の設定ではありません。