方法論

2026年10月18日更新

事案とみなすもの

事案とは、AIシステムの挙動または利用が、人々、組織または公衆に実際の被害をもたらした、あるいは被害の一因となった、具体的な現実世界の出来事である。AIが出来事において実質的な役割を果たしている必要があり、AIがなければ被害は同じ形ではおそらく起きなかったと考えられることが条件となる。唯一の原因である必要はない。

対象とするもの: 信頼できる情報源が報じた被害。訴状や警察の発表などで主張されている被害も含み、その場合は必ず主張する側に帰属させる。AIが道具として使われた犯罪(例:詐欺における音声クローン)。AIエージェント自身の行動が損失を引き起こした事案。AIシステムの研究テストについては、テストの外にいる人々やシステムが実際に影響を受けた出来事に限る。
対象外とするもの: 警告、予測、リスク評価。悪用されなかった脆弱性。現実の被害者がいないテストやデモンストレーション。論説。ソーシャルメディアの投稿のみで知られている事案。
AIエージェントの事案とは、ツールを用いて自律的に行動するAIシステム(コードの実行、閲覧、購入、送信、削除など)が、被害を引き起こした行動を実行した事案をいう。
類似事例の反復(例:AIが捏造した引用をめぐる多数の裁判所による制裁)は、裁判所または規制当局が制裁を科した場合、あるいは被害を認定した場合に対象とする。

報告の入手元

既存の報道機関および公的機関のニュースフィード(複数言語)。
GDELT Project。世界のニュース記事を一覧化したオープンデータである。
公的な情報源:規制当局、裁判所、警察、政府機関、および米国運輸省道路交通安全局(NHTSA)の事故報告データ(統計目的に限る)。
その他の公開インシデントデータベース、すなわちAI Incident Database、AIAAIC Repository、OECD AI Incidents Monitorは、元の報道を見つけるための手がかりとしてのみ用いる。これらの文章や分類は複製しない。

当サイトのクローラーは hurtbybot-bot と名乗り、robots.txt と各サイトの利用規約を尊重し、リクエストの間隔を空けている。クローラーについてを参照されたい。

証拠のルール

すべての事案には、全文を確認した独立した信頼できる情報源が少なくとも2件、または公的な情報源1件(裁判所の文書、あるいは規制当局・警察・政府の声明)が必要である。同じ出版グループの報道や、同一の通信社配信記事の転載は1件として数える。
信頼できる情報源とは、既存の報道機関、公的機関、および当事者である企業(自社の声明に限る)である。ソーシャルメディアの投稿、フォーラム、コンテンツファームは情報源として用いない。
一部の出版社は記事への自動アクセスを認めていない。当サイトはそれらのページを取得も処理もしない。他のデータベースが同じ事案についてそうした報道を示している場合、情報源としては用いずに「参考資料」として掲載することがある。
ページ上のすべての事実は、リンクされた情報源に基づく。各情報源の公開日と当サイトの取得日はページに表示される。

ページの作成方法

要約は、情報源のテキストのみを用い、定められたルールに従ってAIモデルが作成する。

企業や製品を被害に結びつけるすべての文には、誰がそう述べているかを明記する(「〜によると」「訴状によると」「警察によると」「裁判所は〜と認定した」「同社は〜と述べた」)。これは、裁判所、規制当局または企業が出来事の一部を確認している場合にも当てはまる。ページ上の確認ラベルは、何が誰によって確認されたかを示すものであり、他の主張を事実に変えるものではない。
企業や当局が反応を示した場合は、否定やコメントの拒否も含めてその反応を記載する。
一般の個人は、情報源が名前を挙げていても、決して名前を記載しない。未成年者とその家族は、名前を記載せず、身元を特定できる詳細も記述しない。
自殺と自傷は、国際的な安全報道ガイドラインに従って報じる。方法の詳細は書かず、扇情的な表現を避け、ページに相談窓口の情報を掲載する。
数字は情報源に記載があるものに限る。日付は構造化されたフィールドから表示し、本文中に打ち直さない。
情報源の引用文、画像、動画は再掲載しない。

公開前の自動チェック

ルールチェック — 必須項目、有効な日付とカテゴリ、情報源で裏付けられる数字、引用文がないこと、本文に事件番号や法的引用がないこと、一般の個人の名前がないこと、扇情的な表現がないことを確認する。
独立したファクトチェック — 別のAI提供企業のモデルが、草稿を情報源のテキストと照合し、裏付けのないもの、帰属の誤り、申し立てにすぎないのに事実として記述されているもの、分類の誤りを指摘する。
重複チェック — 新しい報道を既存の事案と照合し、1つの出来事に1つのページとなるようにする。
サイトチェック — 各更新の公開前に、空のページ、リンク切れ、翻訳の欠落などの誤りがないかサイト全体を確認する。

不合格となった草稿は公開されない。後の回で再試行され、3回失敗すると破棄される。誤ったものを公開するより、公開を控えることを選ぶ。

分類

深刻度は、情報源に記載された被害と数値のみを用い、説明が満たされる最も高い水準とする。ある水準に必要な情報が情報源に示されていない場合、その水準は用いない。

被害の種類

詐欺・不正商法	AIを用いた欺瞞(音声クローン、ディープフェイクのビデオ通話、AIが作成したフィッシング、AIで作られた人物の肖像を使った偽の投資広告など)により、金銭や資産を失った被害。
ディープフェイクの悪用	実在の人物の合成画像・動画・音声を本人の同意なく作成し、辱め、性的対象化、恐喝、なりすましなどに使用した被害(主な目的が金銭ではないもの)。
精神的被害	AIシステムとのやり取りに関連する精神的被害。自傷の助長、感情的依存、操作、苦痛を与える出力など。
身体的傷害・死亡	物理的なAIシステムやAIによる判断(車両、ロボット、医療システム)に関わる身体的傷害、死亡、物的損害。
不当な嫌疑	AIの出力(顔認識、不正スコア、AI検出ツールなど)により、人物が誤って特定、逮捕、告発、フラグ付け、または不利益処分を受けた被害。
差別	AIシステムが生み出した、または増幅した、保護される属性に基づく不公平な扱い。
不当な利用拒否	自動意思決定システムにより、給付、融資、保険、医療・介護、雇用、住居が不当に拒否、削減、遅延された被害。
プライバシー侵害・情報漏えい	AIシステムまたはAI製品を通じて、個人情報や機密データが露出、漏えい、または不正利用された被害。
名誉毀損・虚偽の主張	AIシステムが、特定可能な個人や組織について虚偽で名誉を損なう内容を生成した被害。
誤情報	AIが生成した虚偽の内容が拡散し、測定可能な被害(社会的混乱、パニック、選挙への干渉)をもたらしたもの。特定の個人に関するものは除く。
エージェントの誤動作	AIエージェントが自ら行動し、損失を招いた被害。データの削除、無断の購入や送金、メッセージの送信、システムの変更など。
捏造された引用	AIが捏造した事実や判例などの引用が、裁判、公的手続、専門業務で提出され、制裁、誤り、手続の浪費を招いた被害。
セキュリティ侵害	AIシステムが悪用された、またはシステムへの侵害に使われた被害。プロンプトインジェクション、AIを利用した侵入、悪意あるAIツールなど。
有害コンテンツ	AIの出力により、人々(特に未成年者)が性的、暴力的、または危険な内容や指示にさらされた被害。

AIシステム

チャットボット/アシスタント	対話型AI(汎用アシスタント、コンパニオンアプリ、会話のみを行うカスタマーサービス用ボット)。
AIエージェント	ツールを用いて自ら行動するAIシステム。コーディングエージェント、ブラウザ・コンピュータ操作エージェント、購入、送信、削除、変更を行うエージェントなど。
生成された画像・動画・音声	合成画像、動画、音声、音声クローンを生成するシステム。
レコメンド/ランキング	フィード、ランキング、広告ターゲティング、コンテンツモデレーションのアルゴリズム。
自動運転車/運転支援システム	自動運転車、ロボタクシー、運転支援システム、自律型ドローンや船舶。
顔認識/生体認証	顔認識、音声などの生体認証による本人特定、および感情認識。
自動意思決定システム	融資、保険、福祉、採用、警察活動、医療、教育で用いられるスコアリングや資格判定のシステム。
ロボット	車両以外の物理的なロボット(産業用、配送用、家庭用、手術用)。
AI開発ツール	障害や悪用によって利用者や運用者に被害を与えたモデル、API、コーディング支援ツール、AIプラットフォーム(自律的に行動するエージェントを除く)。
その他のAIシステム	その他のAIシステム。

深刻度

1 — 軽微	不便や恥ずかしさにとどまり、数日以内に回復可能なもの。被害者1人あたりの損失が1,000米ドル未満で、けがはない(例:後に訂正されたチャットボットの誤回答、意図しない少額の購入)。
2 — 中程度	損失が1,000米ドル以上10万米ドル以下のもの。回復可能なデータ損失、または24時間未満のサービス停止。軽傷。24時間未満の不当な停止または拘束。1万人未満の個人情報の流出。特定可能な1人に被害を与えた性的でないディープフェイク。
3 — 重大	入院治療を要する負傷。損失が100,000~1,000万米ドル。24時間以上の拘束または不当な起訴。組織における回復不能なデータ損失。24時間以上の障害、または100,000人以上の利用者に影響する障害。10,000人以上の機微データの露出。特定可能な人物の性的ディープフェイク。集団に対する雇用、融資、給付の差別的な拒否。未成年者への被害。
4 — 深刻	人の死亡または健康への重大な被害。損失が1,000万米ドル超。100万人以上の機微データの露出。重要インフラの深刻かつ不可逆的な混乱。多数の未成年者に対する性的虐待コンテンツまたは被害。裁判所または規制当局による基本的権利の侵害の認定。
5 — 壊滅的	複数の死者、または地域社会や社会全体が対処能力を超えて混乱するもの。

確認の度合い

報道ベース	信頼できる情報源によって伝えられているが、当事者による確認も、裁判所や規制当局による認定もないもの。提訴、苦情、逮捕、起訴、調査、同意命令、不正を認めない和解を含む。
当事者が確認	AIシステムを開発・使用した企業、または被害を受けた組織が、責任の所在を争う場合でも、事実関係を公に確認したもの。または警察・当局が事象の発生を確認したもの。
規制当局・裁判所の認定	事実認定を伴う裁判所の判決・決定、認定を伴う規制当局の最終決定、有罪判決または有罪答弁、あるいは審判所の決定によって事実関係が確定したもの。和解、同意命令、起訴は含まない。

翻訳

ページはまず英語で作成され、その後、用語集を用いてAIモデルが翻訳する。すべての翻訳は、数字と名前が同一であること、タイムライン項目数が同じであること、未翻訳のテキストがないことを自動で確認し、さらに別のAI提供企業のモデルが、意味の変化、帰属や否定の欠落、安全でない表現についてレビューする。両方に合格した場合にのみ、その言語版を公開する。中国語の要約は80〜150文字に短縮される。副次的な詳細は省くことがあるが、誰が何を述べているかは維持する。

「身を守るために」のガイドも同様にチェックされ、加えて、英語版ガイドのすべての推奨事項と事実が、リンク先の公式情報源と照合される。このチェックに合格している間のみ、ガイドは表示される。チェックは30日ごとに繰り返される。

品質統計

自動処理パイプラインの過去30日間の件数である。

公開したインシデント	2
公開したインシデントの更新	0
自動チェックにより保留された下書き	8
チェックに繰り返し失敗し除外された候補インシデント	3
対応した訂正・削除の依頼	1
依頼を受けて訂正・非公開・削除した項目	0

更新

新しい報道は毎時収集される。追跡中の事案の企業または製品の名前と、進展(訴訟、裁定、罰金、リコール、対応)を併せて含む見出しは、毎時、その事案と照合され、さらに1日1回、追加の検索を実施する。新しい情報源が確認された場合、タイムラインが更新される。各ページには、追加日と最終更新日が表示される。

限界

当サイトの件数は、信頼できる情報源が報じた内容と、当サイトのパイプラインが発見し検証した内容を反映したものである。世界のAIによる被害の真の件数ではなく、企業や製品のランキングとして読むべきではない。
メディアの報道は、国、言語、被害の種類によって偏りがある。
自殺や自傷に関するページに表示される相談窓口は、各サービスの公式ページと毎日照合されている。そのページに当サイトのチェッカーから到達できない場合、番号はニュース報道で確認されるため、その後の変更が反映されていない可能性がある。そのような項目はページ上に明示される。
自動化されたシステムは誤りを犯す。誤りを見つけた場合は、報告してほしい。