在授予 AI 智能体访问权限之前
AI 智能体不只是生成内容:它们还能代表你进行规划、做出决定并采取行动。如果智能体权限过大或设计不当,一次故障就可能迅速演变为严重事件(英国 NCSC)。
政府网络安全机构的建议
- 从小处着手:仅将智能体用于低风险、非敏感的任务,切勿授予其宽泛或不受限制的访问权限,尤其是对敏感数据或关键系统的访问权限(六家国家级网络安全机构的联合指南)。
- 最小权限:只授予智能体完成任务所需的最低访问权限,且时间尽可能短,任务完成后撤销提升的权限(英国 NCSC)。
- 提前确定智能体何时必须停止并请求人工批准,并确保这些批准环节有保障且设有门控(英国 NCSC)。
- 在沙箱中运行智能体,由沙箱控制其在本地和网络上可以与哪些对象通信、不可以与哪些对象通信(英国 NCSC)。
- 记录并监控智能体的行为,以便在必要时将其停止(英国 NCSC)。
- 警惕智能体读取的内容:电子邮件、文件或网站可能包含恶意指令,意图“劫持”智能体去执行另一项可能有害的任务。这属于间接提示注入的一种(CAISI)。
实用步骤
- 清点你交出的每一个登录凭据。 智能体可使用的凭据,例如 API 密钥、应用授权(OAuth 授权)以及任何已登录的会话,都是它在行为异常时可能造成损害的一部分。只授予任务所需的权限(英国 NCSC)。
- 访问范围越广,智能体出现故障或被攻破时的潜在影响就越大,因此应将其限制在任务所需的资源范围内(英国 NCSC)。
- 明确说明它不得做什么。 AI 智能体不具备常识,可能以字面或出人意料的方式理解指令,因此既要告诉它应该做什么,也要告诉它不应该做什么(英国 NCSC)。
- 不要只依赖内置的保护措施:AI 模型内置的安全控制可能被绕过(英国 NCSC)。
资料来源
- 《Careful adoption of agentic AI services》,由澳大利亚信号局(ASD)下属 ACSC、CISA、NSA、加拿大网络安全中心、新西兰 NCSC(NCSC-NZ)和英国 NCSC(NCSC-UK)共同撰写的联合指南。
- 英国国家网络安全中心,《Thinking carefully before adopting agentic AI》(2026 年 5 月 15 日)。
- 英国国家网络安全中心,《Managing the cyber risk of agentic AI》(2026 年 8 月 20 日)。
- 人工智能标准与创新中心(CAISI),《Technical Blog: Strengthening AI Agent Hijacking Evaluations》(2025 年 1 月 17 日)。