方法论
什么情形算作事件
事件是指现实世界中发生的具体事件:AI 系统的行为或使用对个人、组织或公众造成或促成了实际危害。AI 必须在事件中发挥实际作用:没有它,危害很可能不会以同样的方式发生。AI 不必是唯一原因。
- 纳入:可靠来源报道的危害,包括被指称的危害(例如诉状或警方声明中的内容),并始终注明提出指控的一方;以 AI 为工具实施的犯罪(例如在诈骗中使用 AI 语音克隆);AI 智能体自身行为造成损失的情形;以及在针对 AI 系统的研究测试中,仅限测试之外的人员或系统确实受到影响的事件。
- 排除:警告、预测和风险评估;未被利用的漏洞;没有现实受害者的测试和演示;评论文章;仅见于社交媒体帖子的事件。
- AI 智能体事件是指由能够借助工具自主行动(运行代码、浏览网页、购买、发送、删除)的 AI 系统实施了造成危害的行为的事件。
- 重复出现的类似案例(例如多起因 AI 编造引文而受到法院制裁的案件),在法院或监管机构作出制裁或认定存在危害时予以纳入。
报道从何而来
- 主流媒体和官方机构的多语种新闻源。
- GDELT Project,其开放数据收录全球新闻报道。
- 官方来源:监管机构、法院、警方和政府部门,以及美国国家公路交通安全管理局(NHTSA)的碰撞报告数据(仅用于统计)。
- 其他公开的事件数据库——AI Incident Database、AIAAIC Repository 和 OECD AI Incidents Monitor——仅用作查找原始报道的线索;我们不复制其文本或分类。
我们的爬虫以 hurtbybot-bot 表明身份,遵守 robots.txt 和各网站的使用条款,并在请求之间保持间隔。参见我们的爬虫。
证据规则
- 每起事件需要至少两个我们已核对全文的独立可靠来源,或一个官方来源(法院文件,或监管机构、警方或政府的声明)。同一出版集团的报道,或同一通讯社稿件的转载,只算一个来源。
- 可靠来源包括主流新闻机构、官方机构以及相关公司(仅限其自身声明)。社交媒体帖子、论坛和内容农场不作为来源。
- 部分出版方不允许自动访问其文章。我们从不抓取或处理其页面;当其他数据库指向其关于同一事件的报道时,我们可能将其列入「延伸阅读」,但不将其作为来源。
- 页面上的每一项事实均来自所链接的来源。页面会显示各来源的发布时间和我们的获取时间。
页面如何撰写
摘要由 AI 模型仅依据来源文本撰写,并遵循固定规则:
- 每一句将公司或产品与危害联系起来的句子,都会说明由谁作出此说法(「据……报道」「诉状称」「警方表示」「法院认定」「公司表示」)。即使法院、监管机构或公司已证实部分事实,这一规则同样适用:页面上的证实标签会说明由谁证实了什么,而不会把其他指控变成事实。
- 如果公司或主管部门作出了回应——包括否认或拒绝置评——则会写明该回应。
- 不点名普通个人,即使来源中点了名。不点名未成年人及其家人,也不提供可识别身份的细节。
- 涉及自杀和自残的内容遵循国际安全报道准则:不描述方法细节,不使用煽情语言,并在页面上提供求助热线信息。
- 数字必须出现在来源中。日期取自结构化字段显示,而非在文本中重新键入。
- 不转载来源中的引文、图片或视频。
发布前的自动检查
- 规则检查——必填字段、有效的日期和类别、数字可追溯至来源、无引文、文本中无案号或法律引注、无普通个人姓名、无煽情措辞。
- 独立事实核查——由另一家 AI 提供商的模型将草稿与来源文本比对,标出缺乏依据、归属错误、仅为指称却被表述为事实或分类有误的内容。
- 重复检查——将新报道与现有事件进行匹配,使一起事件只对应一个页面。
- 站点检查——每次更新上线前,对整个站点检查空白页面、失效链接、缺失的翻译及其他错误。
未通过的草稿不会发布。它会在之后的轮次中重试,三次失败后即被丢弃。我们宁可少发布,也不发布有误的内容。
分类
严重程度取其描述被满足的最高等级,仅使用来源中所述的危害和数字;当来源未提供某一等级所需的信息时,不采用该等级。
伤害类型
| 诈骗 | 因利用 AI 的欺骗手段(AI 语音克隆、深度伪造视频通话、AI 撰写的钓鱼信息、使用 AI 仿冒人物形象的虚假投资广告)而损失钱款或资产。 |
|---|---|
| 深度伪造滥用 | 未经同意生成真实人物的合成图像、视频或音频,用于羞辱、性化、敲诈或冒充(主要目的并非获取钱财)。 |
| 心理伤害 | 与使用 AI 系统相关的心理健康伤害:鼓励自我伤害、情感依赖、操纵、令人不适的输出内容。 |
| 人身伤害或死亡 | 涉及实体 AI 系统或 AI 驱动决策(车辆、机器人、医疗系统)的人身伤害、死亡或财产损失。 |
| 错误指控 | 因 AI 输出结果(人脸识别、欺诈评分、AI 检测工具)而被错误识别、逮捕、指控、标记或处罚。 |
| 歧视 | 由 AI 系统产生或加剧的、基于受保护特征的对人不公平对待。 |
| 错误拒绝 | 自动化决策系统错误地拒绝、削减或延迟福利、信贷、保险、医疗护理、就业或住房。 |
| 隐私与数据泄露 | 个人或机密数据通过 AI 系统或 AI 产品被暴露、泄露或滥用。 |
| 诽谤与虚假陈述 | AI 系统生成了针对可识别个人或组织的虚假且具损害性的陈述。 |
| 虚假信息 | AI 生成的虚假内容扩散并造成可衡量的危害(公众困惑、恐慌、干预选举),且不针对某一可识别个人。 |
| 智能体误操作 | AI 智能体自行采取行动并造成损失:删除数据、未经授权的购买或转账、发送消息、更改系统。 |
| 虚构引用 | AI 编造的事实或法律引文被提交至法庭、官方或专业工作中,导致处罚、错误或程序浪费。 |
| 安全漏洞 | 被利用或被用于入侵系统的 AI 系统:提示词注入、AI 辅助入侵、恶意 AI 工具。 |
| 有害内容 | AI 输出使人们(尤其是未成年人)接触到色情、暴力或危险的内容或指示。 |
AI 系统
| 聊天机器人/助手 | 对话式 AI(通用助手、陪伴类应用、仅提供对话的客服机器人)。 |
|---|---|
| AI 智能体 | 可自主使用工具执行操作的 AI 系统:编程智能体、浏览器/计算机操作智能体,以及能够购买、发送、删除或修改内容的智能体。 |
| 生成式图像/视频/语音 | 生成合成图像、视频、音频或 AI 语音克隆的系统。 |
| 推荐/排序系统 | 信息流、排序、广告定向或内容审核算法。 |
| 自动驾驶汽车/辅助驾驶 | 自动驾驶汽车、无人驾驶出租车(Robotaxi)、辅助驾驶系统、自主无人机或船舶。 |
| 人脸识别/生物识别 | 人脸识别、声纹或其他生物特征识别,以及情绪识别。 |
| 自动化决策系统 | 用于信贷、保险、福利、招聘、警务、医疗或教育领域的评分或资格审核系统。 |
| 机器人 | 车辆以外的实体机器人(工业、配送、家用、手术机器人)。 |
| AI 开发工具 | 其故障或漏洞利用对用户或运营方造成损害的模型、API、编程助手或 AI 平台(不属于自主行动的智能体时)。 |
| 其他 AI 系统 | 任何其他 AI 系统。 |
严重程度
| 1 — 轻微 | 造成不便或尴尬,数日内可恢复;每名受害者损失低于 1,000 美元;无人受伤(例如聊天机器人的错误回答后来被更正、一笔小额的非本意购买)。 |
|---|---|
| 2 — 中等 | 损失 1,000–100,000 美元;可恢复的数据丢失或 24 小时内的停机;轻伤;24 小时内的错误拦停或拘留;不足 10,000 人的个人数据泄露;一条非色情的深度伪造内容损害了一名可识别的个人。 |
| 3 — 较严重 | 需住院治疗的伤害;损失 100,000–1,000 万美元;拘留 24 小时或以上,或被错误指控;组织无法恢复的数据丢失;停机 24 小时或以上,或影响 100,000 名以上用户;10,000 人以上的敏感数据泄露;针对可识别人员的色情深度伪造内容;针对某一群体在就业、信贷或福利方面的歧视性拒绝;对未成年人造成伤害。 |
| 4 — 严重 | 人员死亡或健康受到严重损害;损失超过 1,000 万美元;100 万人以上的敏感数据泄露;关键基础设施遭受严重且不可逆的中断;儿童性虐待材料或对众多未成年人造成伤害;法院或监管机构认定侵犯基本权利。 |
| 5 — 灾难性 | 多人死亡,或对社区或社会造成超出其应对能力的破坏。 |
确认方式
| 有可靠来源报道 | 可靠来源有所描述,但未经相关当事方证实,也未经法院或监管机构认定。包括已提起的诉讼、投诉、逮捕、指控、调查、和解令,以及不承认过错的和解。 |
|---|---|
| 当事方证实 | 开发或使用该 AI 系统的公司,或受损害的机构,公开证实了事件的基本事实(即便对责任归属有异议),或警方/有关当局证实该事件确已发生。 |
| 监管机构或法院认定 | 法院作出载有事实认定的判决或裁定、监管机构作出载有认定的最终决定、刑事定罪或认罪,或仲裁庭裁决,认定了事件经过。和解、和解令及指控不计入其中。 |
翻译
页面先以英文撰写,再由 AI 模型借助术语表进行翻译。每个译文都会经过自动检查——数字和名称一致、时间线条目数量相同、无未翻译文本——然后由另一家 AI 提供商的模型审核,检查含义是否改变、归属或否认表述是否丢失以及措辞是否不安全。只有两项检查均通过,才会发布相应语言版本。中文摘要会缩短至 80–150 字;可以省略次要细节,但会保留谁说了什么。
「保护自己」指南以同样方式检查,此外,英文指南中的每条建议和每项事实都会对照其所链接的官方来源进行核查;只有该核查通过期间,指南才会显示。该核查每 30 天重复一次。
质量统计
以下为我们的自动化流程近 30 天的统计数据。
| 已发布的事件 | 2 |
|---|---|
| 已发布的事件更新 | 0 |
| 被自动检查拦截的草稿 | 8 |
| 多次检查未通过而被剔除的候选事件 | 3 |
| 已处理的更正或删除请求 | 1 |
| 应请求被更正、下线或删除的条目 | 0 |
更新
每小时收集新的报道。每小时,会将点名某一在跟踪事件所涉公司或产品并同时提到进展(诉讼、裁决、罚款、召回或回应)的标题与该事件进行核对,并且每天还会进行额外检索;一旦确认新的来源,时间线即会更新。每个页面都会显示其添加时间和最近更新时间。
局限性
- 我们的统计反映的是可靠来源所报道、且我们的流程已发现并核实的内容。它们并非世界上 AI 危害的真实数量,也不应被解读为对公司或产品的排名。
- 各国家、语言和危害类型的媒体报道并不均衡。
- 关于自杀或自残的页面上显示的危机求助热线,每天都会对照各服务机构的官方页面进行核对。如果我们的检查程序无法访问该页面,则改由新闻报道确认号码,这可能无法反映后来的变更;此类条目会在页面上标注。
- 自动化系统会出错。如果您发现错误,请报告。