使用 AI 工具时如何保护隐私
您在 AI 聊天机器人中输入的内容,提供该服务的公司可以看到;存储在网上的查询内容可能被黑客攻击、泄露或意外公开(英国 NCSC)。
监管机构和网络安全机构的建议
- 不要向公共聊天机器人提供敏感信息。 英国国家网络安全中心(NCSC)建议,不要在向公共 AI 语言模型提出的查询中包含敏感信息,也不要提交一旦公开就会引发问题的查询(NCSC)。
- 先阅读使用条款和隐私政策。 据 NCSC 称,查询内容会被存储,并且几乎肯定会在某个时候被用于服务开发,因此在提出敏感问题之前,需要先了解使用条款和隐私政策(NCSC)。
- 不要提供个人详细信息。 西班牙数据保护机构建议,不要与 AI 工具分享个人数据,例如您的全名、地址、电话号码、身份证件号码或人物图像,也不要分享医疗或财务细节等敏感信息,并建议改为描述一个虚构的案例(AEPD)。
- 不要使用他人的图像 来生成新内容,尤其是儿童的图像;该机构警告称,这可能违反数据保护法,甚至构成犯罪(AEPD)。
- 工作中请遵守所在机构的规定,包括信息和安全方面的规定,不要包含有关机构、其员工或客户的机密信息(AEPD)。
- 聊天记录设置。 英格兰和威尔士针对法官及其辅助人员的指引要求,如果公共 AI 聊天机器人提供关闭聊天记录的选项,应将其关闭,因为这应能防止其数据被用于训练聊天机器人;但指引同时警告称,即使关闭了记录,也应假定所输入的数据正在被披露(司法指引)。
- 谨慎使用处理他人所写内容的 AI 工具。 文档(例如简历)中的隐藏文字可能被 AI 系统当作指令处理。NCSC 将此称为间接提示注入,并表示此类攻击可能永远无法被完全缓解(NCSC)。
- 企业必须遵守其隐私承诺。 美国联邦贸易委员会(FTC)已警告“模型即服务”公司(即开发并托管 AI 模型供他人使用的公司):如果未能遵守对用户和客户的隐私承诺,包括不将客户数据用于训练其模型等秘密用途的承诺,它们可能须依据该机构执行的法律承担责任(FTC)。
- 如果您认为自己的数据被不当处理,在大多数情况下,应先向相关机构提出您的关切。在英国,如果您对其答复不满意,可以随后向信息专员办公室(ICO)投诉(ICO)。
来源
- ChatGPT and large language models: what's the risk?,英国国家网络安全中心,2023 年 3 月 14 日。
- Prompt injection is not SQL injection (it may be worse),英国国家网络安全中心,2025 年 12 月 8 日。
- La AEPD publica un decálogo con recomendaciones para proteger la privacidad al usar herramientas de IA,西班牙数据保护局(AEPD),2026 年 1 月 27 日。
- Artificial Intelligence (AI) – Judicial Guidance (October 2025),英国法院与审裁处司法机构,2025 年 10 月 31 日。
- AI Companies: Uphold Your Privacy and Confidentiality Commitments,美国联邦贸易委员会。
- Check if you can complain,英国信息专员办公室。