AIエージェントにアクセス権を与える前に
AIエージェントはコンテンツを生成するだけでなく、ユーザーに代わって計画を立て、判断を下し、行動を実行できる。エージェントに過剰な権限が与えられていたり、設計が不十分であったりすると、一度の失敗がたちまち深刻なインシデントに発展しうる(UK NCSC)。
政府のサイバーセキュリティ機関の助言
- 小さく始める:AIエージェントは、リスクが低く機密性のないタスクにのみ使用し、特に機密データや重要なシステムに対して、広範または無制限のアクセスを与えてはならない(6つの国家サイバーセキュリティ機関による共同ガイダンス)。
- 最小権限:エージェントには、必要最小限のアクセスのみを、必要な最短の期間だけ与え、タスクが完了したら昇格したアクセスを取り消す(UK NCSC)。
- エージェントがいつ停止して人間に承認を求めなければならないかを事前に決めておき、その承認が確実に行われ、ゲートとして機能するようにする(UK NCSC)。
- エージェントはサンドボックスで実行する。ローカルでもネットワーク経由でも、エージェントが通信できる相手とできない相手を制御する(UK NCSC)。
- エージェントの動作を記録・監視し、必要な場合に停止できるようにする(UK NCSC)。
- エージェントが読み込むコンテンツに注意する:メール、ファイル、ウェブサイトには、エージェントを別の、害をもたらしうるタスクへと「ハイジャック」することを狙った悪意ある指示が含まれている場合がある。これは間接プロンプトインジェクションの一種である(CAISI)。
実践的な手順
- 渡したログインをすべて数える。 APIキー、アプリの認可(OAuthグラント)、サインイン済みのセッションなど、エージェントが使える認証情報は、エージェントが想定外の動作をした場合に生じうる被害の一部となる。タスクに必要な権限だけを与える(UK NCSC)。
- アクセス範囲が広いほど、エージェントが誤作動した場合や侵害された場合の潜在的な影響は大きくなる。そのため、タスクに必要なリソースに限定する(UK NCSC)。
- してはならないことを伝える。 AIエージェントには常識がなく、指示を文字どおりに、あるいは予期しない形で解釈することがあるため、すべきことと、すべきでないことの両方を指示する(UK NCSC)。
- 組み込みの安全対策だけに頼らない:AIモデルに組み込まれた安全制御は、回避される可能性がある(UK NCSC)。
出典
- "Careful adoption of agentic AI services"、ASDのACSC、CISA、NSA、カナダ・サイバーセキュリティセンター、NCSC-NZ、NCSC-UKが共同で作成した共同ガイダンス。
- 英国国家サイバーセキュリティセンター、"Thinking carefully before adopting agentic AI"(2026年5月15日)。
- 英国国家サイバーセキュリティセンター、"Managing the cyber risk of agentic AI"(2026年8月20日)。
- Center for AI Standards and Innovation(CAISI)、"Technical Blog: Strengthening AI Agent Hijacking Evaluations"(2025年1月17日)。