Méthodologie
Ce qui constitue un incident
Un incident est un événement précis, survenu dans le monde réel, dans lequel le comportement ou l'utilisation d'un système d'IA a causé ou contribué à causer un préjudice réel à des personnes, à une organisation ou au public. L'IA doit jouer un rôle réel dans ce qui s'est passé : le préjudice ne se serait probablement pas produit de la même façon sans elle. Elle n'a pas besoin d'en être la seule cause.
- Inclus : les préjudices rapportés par des sources fiables, y compris les préjudices présumés (par exemple dans une action en justice ou une déclaration de la police), toujours attribués à l'auteur de l'accusation ; les infractions dans lesquelles l'IA a servi d'outil (par exemple des voix clonées dans une escroquerie) ; les agents d'IA dont les propres actions ont causé une perte ; et, pour les tests de recherche sur des systèmes d'IA, uniquement les événements ayant réellement touché des personnes ou des systèmes extérieurs au test.
- Exclus : les avertissements, les prédictions et les évaluations de risques ; les vulnérabilités qui n'ont pas été exploitées ; les tests et démonstrations sans victimes dans le monde réel ; les tribunes et articles d'opinion ; les incidents connus uniquement par des publications sur les réseaux sociaux.
- Les incidents impliquant des agents d'IA sont ceux dans lesquels un système d'IA qui agit de manière autonome avec des outils (exécuter du code, naviguer, acheter, envoyer, supprimer) a accompli l'action à l'origine du préjudice.
- Les cas similaires répétés (par exemple de nombreuses sanctions judiciaires pour des citations fabriquées par l'IA) sont inclus lorsqu'un tribunal ou une autorité de régulation a prononcé une sanction ou constaté un préjudice.
D'où viennent les signalements
- Les flux d'actualités de médias établis et d'organismes officiels, en plusieurs langues.
- Le GDELT Project, dont les données ouvertes recensent des articles de presse du monde entier.
- Les sources officielles : autorités de régulation, tribunaux, police et administrations, ainsi que les données de signalement d'accidents de la National Highway Traffic Safety Administration des États-Unis (utilisées uniquement pour les statistiques).
- D'autres bases de données publiques d'incidents — l'AI Incident Database, l'AIAAIC Repository et l'OECD AI Incidents Monitor — ne sont utilisées que comme pistes pour retrouver les signalements originaux ; nous ne copions ni leurs textes ni leurs classifications.
Notre robot d'exploration s'identifie sous le nom hurtbybot-bot, respecte le fichier robots.txt ainsi que les conditions d'utilisation de chaque site, et patiente entre les requêtes. Voir notre robot.
Règles de preuve
- Chaque incident exige au moins deux sources fiables et indépendantes dont nous avons vérifié le texte intégral, ou une source officielle (un document judiciaire, ou une déclaration d'une autorité de régulation, de la police ou d'une administration). Les articles issus du même groupe de presse, ou les reprises d'une même dépêche d'agence, comptent pour une seule source.
- Les sources fiables sont les médias d'information établis, les organismes officiels et les entreprises concernées (pour leurs propres déclarations). Les publications sur les réseaux sociaux, les forums et les fermes de contenu ne sont pas utilisés comme sources.
- Certains éditeurs n'autorisent pas l'accès automatisé à leurs articles. Nous ne récupérons ni ne traitons jamais leurs pages ; lorsqu'une autre base de données renvoie vers l'un de leurs articles sur le même incident, nous pouvons l'indiquer sous « Pour aller plus loin » sans l'utiliser comme source.
- Chaque fait présenté sur une page provient des sources liées. La page indique la date de publication de chaque source et la date à laquelle nous l'avons consultée.
Comment les pages sont rédigées
Les résumés sont rédigés par un modèle d'IA à partir des seuls textes sources, selon des règles fixes :
- Chaque phrase qui relie une entreprise ou un produit à un préjudice indique qui l'affirme (« selon… », « selon la plainte… », « selon la police… », « le tribunal a constaté… », « l'entreprise a déclaré… »). Cela s'applique aussi lorsqu'un tribunal, une autorité de régulation ou l'entreprise a confirmé une partie des faits : l'étiquette de confirmation d'une page indique ce qui a été confirmé et par qui, et elle ne transforme pas les autres accusations en faits.
- Si une entreprise ou une autorité a répondu — y compris par un démenti ou un refus de commenter — sa réponse est mentionnée.
- Les particuliers ne sont jamais nommés, même lorsque les sources les nomment. Les mineurs et leurs familles ne sont jamais nommés ni décrits de façon permettant de les identifier.
- Les suicides et les automutilations sont traités selon les recommandations internationales de traitement médiatique responsable : aucun détail sur la méthode, aucun vocabulaire sensationnaliste, et des informations sur les lignes d'aide figurent sur la page.
- Les chiffres doivent figurer dans une source. Les dates sont affichées à partir de champs structurés, et non retapées dans le texte.
- Aucune citation, image ni vidéo des sources n'est republiée.
Contrôles automatiques avant publication
- Contrôle des règles — champs obligatoires, dates et catégories valides, chiffres traçables jusqu'aux sources, aucune citation, aucun numéro de dossier ni référence juridique dans le texte, aucun nom de particulier, aucune formulation sensationnaliste.
- Vérification factuelle indépendante — un modèle d'un autre fournisseur d'IA compare le brouillon aux textes sources et signale tout ce qui n'est pas étayé, mal attribué, présenté comme un fait alors qu'il n'est qu'allégué, ou mal classé.
- Contrôle des doublons — les nouveaux signalements sont rapprochés des incidents existants afin qu'un même événement n'ait qu'une seule page.
- Contrôle du site — avant la mise en ligne de chaque mise à jour, l'ensemble du site est vérifié pour détecter les pages vides, les liens défectueux, les traductions manquantes et d'autres erreurs.
Un brouillon qui échoue n'est pas publié. Il est retenté lors d'un cycle ultérieur et abandonné après trois échecs. Nous préférons publier moins plutôt que publier quelque chose d'erroné.
Classification
La gravité correspond au niveau le plus élevé dont la description est satisfaite, en s'appuyant uniquement sur les préjudices et les chiffres indiqués dans les sources ; lorsque les sources ne fournissent pas l'information requise par un niveau, ce niveau n'est pas retenu.
Type de préjudice
| Fraudes et arnaques | Argent ou biens perdus à cause d'une tromperie utilisant l'IA (clonage vocal, appels vidéo en deepfake (hypertrucage), hameçonnage rédigé par IA, fausses publicités d'investissement reprenant l'image de personnes générée par IA). |
|---|---|
| Abus de deepfake (hypertrucage) | Images, vidéos ou audio synthétiques de personnes réelles, créés sans leur consentement pour les humilier, les sexualiser, les faire chanter ou usurper leur identité (pas principalement dans un but financier). |
| Préjudice psychologique | Atteinte à la santé mentale liée à l'interaction avec un système d'IA : incitation à l'automutilation, dépendance affective, manipulation, contenus générés angoissants. |
| Blessure ou décès | Blessure, décès ou dommage matériel impliquant un système d'IA physique ou une décision pilotée par l'IA (véhicules, robots, systèmes médicaux). |
| Accusation injustifiée | Personne identifiée, arrêtée, accusée, signalée ou sanctionnée à tort en raison d'un résultat de l'IA (reconnaissance faciale, scores de fraude, détecteurs d'IA). |
| Discrimination | Traitement inéquitable de personnes fondé sur des caractéristiques protégées, produit ou amplifié par un système d'IA. |
| Refus injustifié | Prestations, crédit, assurance, soins, emploi ou logement refusés, supprimés ou retardés à tort par un système de décision automatisée. |
| Vie privée et fuites de données | Données personnelles ou confidentielles exposées, divulguées ou détournées via un système ou un produit d'IA. |
| Diffamation et fausses allégations | Un système d'IA a généré des affirmations fausses et préjudiciables sur une personne ou une organisation identifiable. |
| Désinformation | Contenu faux généré par l'IA qui s'est propagé et a causé un préjudice mesurable (confusion du public, panique, ingérence électorale), sans viser une seule personne identifiable. |
| Action erronée d'un agent | Un agent d'IA a agi de lui-même et causé une perte : suppression de données, achats ou virements non autorisés, envoi de messages, modification de systèmes. |
| Citations fabriquées | Faits ou citations juridiques inventés par l'IA (hallucination de l'IA) et soumis devant un tribunal ou dans un travail officiel ou professionnel, entraînant sanctions, erreurs ou procédures inutiles. |
| Faille de sécurité | Systèmes d'IA exploités ou utilisés pour compromettre des systèmes : injection de prompt, intrusion assistée par IA, outils d'IA malveillants. |
| Contenu préjudiciable | Contenu généré par l'IA ayant exposé des personnes (en particulier des mineurs) à des contenus ou instructions sexuels, violents ou dangereux. |
Système d'IA
| Chatbot (agent conversationnel) / assistant | IA conversationnelle (assistants généralistes, applications de compagnie, chatbots (agents conversationnels) de service client qui se limitent au dialogue). |
|---|---|
| Agent d'IA | Système d'IA qui agit de lui-même avec des outils : agents de programmation, agents de navigation ou d'utilisation d'ordinateur, agents qui achètent, envoient, suppriment ou modifient des éléments. |
| Image, vidéo ou voix générée | Systèmes qui créent des images, vidéos, audio ou clonages vocaux synthétiques. |
| Recommandation / classement | Fils d'actualité, classement, ciblage publicitaire ou algorithmes de modération de contenu. |
| Véhicule autonome / système d'aide à la conduite | Voitures autonomes, robotaxis, systèmes d'aide à la conduite, drones ou navires autonomes. |
| Reconnaissance faciale / biométrie | Reconnaissance faciale, identification vocale ou autre identification biométrique, et reconnaissance des émotions. |
| Système de décision automatisée | Systèmes de notation ou d'éligibilité utilisés pour le crédit, l'assurance, les aides sociales, le recrutement, le maintien de l'ordre, la santé ou l'éducation. |
| Robot | Robots physiques autres que les véhicules (industriels, de livraison, domestiques, chirurgicaux). |
| Outils de développement d'IA | Modèles, API, assistants de programmation ou plateformes d'IA dont les défaillances ou les failles exploitées ont nui à des utilisateurs ou des opérateurs (lorsqu'il ne s'agit pas d'un agent agissant de lui-même). |
| Autre système d'IA | Tout autre système d'IA. |
Gravité
| 1 — Mineure | Gêne ou embarras, réversible en quelques jours ; perte inférieure à 1 000 USD par victime ; aucune blessure (par ex. une mauvaise réponse de chatbot corrigée ensuite, un petit achat non voulu). |
|---|---|
| 2 — Modérée | Perte de 1 000 à 100 000 USD ; perte de données récupérable ou interruption de service de moins de 24 heures ; blessure légère ; contrôle ou détention injustifiés de moins de 24 heures ; données personnelles de moins de 10 000 personnes exposées ; deepfake (hypertrucage) non sexuel portant préjudice à une personne identifiable. |
| 3 — Sérieuse | Blessure nécessitant des soins hospitaliers ; perte de 100 000 à 10 millions USD ; détention de 24 heures ou plus ou inculpation injustifiée ; perte de données irrécupérable pour une organisation ; panne de 24 heures ou plus ou touchant 100 000 utilisateurs et plus ; données sensibles de 10 000 personnes et plus exposées ; deepfakes (hypertrucage) sexuels de personnes identifiables ; refus discriminatoire d'emploi, de crédit ou de prestations à un groupe ; préjudice à un mineur. |
| 4 — Grave | Décès d'une personne ou atteinte grave à la santé ; perte supérieure à 10 millions de dollars US (US$10 million) ; données sensibles de 1 million+ de personnes exposées ; perturbation grave et irréversible d'une infrastructure critique ; contenus d'abus sexuels ou préjudice touchant de nombreux mineurs ; constat, par un tribunal ou une autorité de régulation, d'une atteinte aux droits fondamentaux. |
| 5 — Catastrophique | Plusieurs décès, ou perturbation d'une communauté ou de la société au-delà de sa capacité à y faire face. |
Degré de confirmation
| Rapporté | Décrit par des sources fiables, mais non confirmé par une partie concernée et non établi par un tribunal ou une autorité de régulation. Comprend les plaintes déposées, les réclamations, les arrestations, les inculpations, les enquêtes, les accords de mise en conformité et les règlements amiables sans reconnaissance de faute. |
|---|---|
| Confirmé par une partie | L'entreprise qui a conçu ou utilisé le système d'IA, ou l'organisation lésée, a confirmé publiquement les faits (même si elle conteste sa responsabilité), ou la police ou les autorités ont confirmé que l'événement a eu lieu. |
| Constat d'un régulateur ou d'un tribunal | Un jugement ou une décision de justice comportant des constatations de fait, une décision définitive d'une autorité de régulation avec constatations, une condamnation pénale ou un plaider-coupable, ou une décision d'un tribunal établit ce qui s'est passé. Les règlements amiables, les accords de mise en conformité et les inculpations ne comptent pas. |
Traductions
Les pages sont d'abord rédigées en anglais, puis traduites par un modèle d'IA à l'aide d'un glossaire. Chaque traduction est vérifiée automatiquement — mêmes chiffres et mêmes noms, même nombre d'éléments dans la chronologie, aucun texte non traduit — puis relue par un modèle d'un autre fournisseur d'IA pour repérer les changements de sens, les attributions ou démentis perdus et les formulations risquées. Une version linguistique n'est publiée que si elle réussit les deux contrôles. Les résumés en chinois sont raccourcis à 80–150 caractères ; ils peuvent omettre des détails secondaires mais conservent qui dit quoi.
Les guides « Protégez-vous » sont vérifiés de la même manière, et en outre chaque recommandation et chaque fait du guide anglais est vérifié par rapport à la source officielle vers laquelle il renvoie ; un guide n'est affiché que tant que cette vérification est réussie. Le contrôle est répété tous les 30 jours.
Statistiques de qualité
Chiffres issus de notre chaîne automatisée sur les 30 derniers jours.
| Incidents publiés | 2 |
|---|---|
| Mises à jour d'incidents publiées | 0 |
| Brouillons retenus par les contrôles automatiques | 8 |
| Incidents candidats abandonnés après des échecs répétés aux contrôles | 3 |
| Demandes de correction ou de retrait traitées | 1 |
| Fiches corrigées, mises hors ligne ou supprimées après une demande | 0 |
Mises à jour
Les nouveaux signalements sont collectés toutes les heures. Chaque heure, les titres qui nomment une entreprise ou un produit d'un incident suivi en lien avec un développement (une action en justice, une décision de justice, une amende, un rappel ou une réponse) sont comparés à cet incident, et une fois par jour nous lançons des recherches supplémentaires ; lorsqu'une nouvelle source est confirmée, la chronologie est mise à jour. Chaque page indique quand elle a été ajoutée et quand elle a été mise à jour pour la dernière fois.
Limites
- Nos décomptes reflètent ce que des sources fiables ont rapporté et ce que notre chaîne de traitement a trouvé et vérifié. Ils ne correspondent pas au nombre réel de préjudices liés à l'IA dans le monde et ne doivent pas être lus comme un classement d'entreprises ou de produits.
- La couverture médiatique est inégale selon les pays, les langues et les types de préjudice.
- Les lignes d'écoute affichées sur les pages consacrées au suicide ou à l'automutilation sont vérifiées chaque jour par rapport à la page officielle de chaque service. Lorsque cette page n'est pas accessible depuis notre outil de vérification, le numéro est confirmé à partir d'un article de presse, qui peut ne pas refléter un changement ultérieur ; ces entrées sont signalées sur la page.
- Les systèmes automatisés font des erreurs. Si vous en trouvez une, veuillez la signaler.