Metodología
Qué se considera un incidente
Un incidente es un hecho concreto y real en el que el comportamiento o el uso de un sistema de IA causó o contribuyó a causar un daño efectivo a personas, a una organización o al público. La IA debe desempeñar un papel real en lo ocurrido: el daño probablemente no habría sucedido del mismo modo sin ella. No tiene que ser la única causa.
- Se incluyen: daños comunicados por fuentes fiables, incluidos los daños presuntos (por ejemplo, en una demanda o en una declaración de la policía), siempre atribuidos a quien los afirma; delitos en los que se usó la IA como herramienta (por ejemplo, la clonación de voz en una estafa); agentes de IA cuyas propias acciones causaron una pérdida; y, en el caso de pruebas de investigación de sistemas de IA, únicamente los hechos en los que personas o sistemas ajenos a la prueba resultaron realmente afectados.
- Se excluyen: advertencias, predicciones y evaluaciones de riesgo; vulnerabilidades que no fueron explotadas; pruebas y demostraciones sin víctimas reales; artículos de opinión; incidentes conocidos solo por publicaciones en redes sociales.
- Los incidentes con agentes de IA son aquellos en los que un sistema de IA que actúa por sí mismo con herramientas (ejecutar código, navegar, comprar, enviar, borrar) llevó a cabo la acción que causó el daño.
- Los casos similares que se repiten (por ejemplo, las numerosas sanciones judiciales por citas inventadas por la IA) se incluyen cuando un tribunal o un regulador impuso una sanción o constató un daño.
De dónde proceden las noticias
- Fuentes de noticias de medios de comunicación consolidados y de organismos oficiales, en varios idiomas.
- El GDELT Project, cuyos datos abiertos enumeran artículos de prensa de todo el mundo.
- Fuentes oficiales: reguladores, tribunales, la policía y organismos gubernamentales, y los datos de informes de accidentes de la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. (usados solo para estadísticas).
- Otras bases de datos públicas de incidentes (la AI Incident Database, el AIAAIC Repository y el OECD AI Incidents Monitor) se usan solo como pistas para encontrar los informes originales; no copiamos sus textos ni sus clasificaciones.
Nuestro rastreador se identifica como hurtbybot-bot, respeta robots.txt y las condiciones de uso de cada sitio, y espera entre una solicitud y otra. Consulte nuestro rastreador.
Reglas de evidencia
- Cada incidente necesita al menos dos fuentes fiables independientes cuyo texto completo hayamos revisado, o una fuente oficial (un documento judicial, o una declaración de un regulador, de la policía o del gobierno). Los informes del mismo grupo editorial o las copias de una misma noticia de agencia cuentan como uno solo.
- Las fuentes fiables son los medios de comunicación consolidados, los organismos oficiales y las empresas implicadas (para sus propias declaraciones). No se usan como fuentes las publicaciones en redes sociales, los foros ni las granjas de contenido.
- Algunos editores no permiten el acceso automatizado a sus artículos. Nunca descargamos ni procesamos sus páginas; cuando otra base de datos remite a un informe suyo sobre el mismo incidente, podemos incluirlo en "Lecturas adicionales" sin usarlo como fuente.
- Cada dato de una página procede de las fuentes enlazadas. La página muestra cuándo se publicó cada fuente y cuándo la obtuvimos.
Cómo se redactan las páginas
Los resúmenes los redacta un modelo de IA utilizando únicamente los textos de las fuentes, con reglas fijas:
- Toda frase que vincule a una empresa o un producto con un daño indica quién lo afirma ("según…", "la demanda alega…", "la policía dijo…", "el tribunal concluyó…", "la empresa dijo…"). Esto también se aplica cuando un tribunal, un regulador o la empresa han confirmado parte de lo ocurrido: la etiqueta de confirmación de una página indica qué se confirmó y quién lo confirmó, y no convierte otras acusaciones en hechos.
- Si una empresa o una autoridad respondió, incluidos una negación de los hechos o una negativa a hacer comentarios, la respuesta se incluye.
- Nunca se nombra a particulares, aunque las fuentes los nombren. Nunca se nombra ni se describe con detalles identificativos a los menores de edad ni a sus familias.
- El suicidio y las autolesiones se tratan siguiendo las directrices internacionales de información segura: sin detalles del método, sin lenguaje sensacionalista y con información sobre líneas de ayuda en la página.
- Las cifras deben aparecer en una fuente. Las fechas se muestran a partir de campos estructurados, no se reescriben en el texto.
- No se republican citas textuales, imágenes ni vídeos de las fuentes.
Comprobaciones automáticas antes de la publicación
- Comprobación de reglas: campos obligatorios, fechas y categorías válidas, cifras rastreables hasta las fuentes, sin citas textuales, sin números de expediente ni citas jurídicas en el texto, sin nombres de particulares, sin expresiones sensacionalistas.
- Verificación independiente de los hechos: un modelo de un proveedor de IA distinto compara el borrador con los textos de las fuentes y señala todo lo que carezca de respaldo, esté atribuido erróneamente, se presente como un hecho cuando solo es una alegación o esté mal clasificado.
- Comprobación de duplicados: los nuevos informes se cotejan con los incidentes existentes para que un mismo hecho tenga una sola página.
- Comprobación del sitio: antes de que cada actualización se publique, se revisa todo el sitio en busca de páginas vacías, enlaces rotos, traducciones que faltan y otros errores.
Un borrador que no supera las comprobaciones no se publica. Se vuelve a intentar en una ronda posterior y se descarta tras tres fallos. Preferimos publicar menos antes que publicar algo erróneo.
Clasificación
La gravedad es el nivel más alto cuya descripción se cumple, usando únicamente los daños y las cifras que indican las fuentes; cuando las fuentes no dan la información que requiere un nivel, ese nivel no se utiliza.
Tipo de daño
| Fraudes y estafas | Dinero o bienes perdidos por un engaño en el que se usó IA (clonación de voz, videollamadas con deepfake (ultrafalso), phishing redactado con IA, anuncios falsos de inversión con imágenes generadas por IA de personas reales). |
|---|---|
| Abuso de deepfakes (ultrafalsos) | Imágenes, vídeos o audios sintéticos de personas reales, creados sin su consentimiento y usados para humillarlas, sexualizarlas, extorsionarlas o suplantarlas (sin que el fin principal sea económico). |
| Daño psicológico | Daño a la salud mental vinculado a la interacción con un sistema de IA: incitación a autolesionarse, dependencia emocional, manipulación, respuestas perturbadoras. |
| Lesiones o muerte | Lesiones, muerte o daños materiales en los que interviene un sistema de IA físico o una decisión basada en IA (vehículos, robots, sistemas médicos). |
| Acusación injusta | Una persona identificada, detenida, acusada, señalada o sancionada por error debido al resultado de una IA (reconocimiento facial, puntuaciones de fraude, detectores de IA). |
| Discriminación | Trato injusto a personas por características protegidas, producido o amplificado por un sistema de IA. |
| Denegación indebida | Prestaciones, crédito, seguros, atención médica, empleo o vivienda denegados, recortados o retrasados indebidamente por un sistema de decisión automatizada. |
| Privacidad y filtraciones de datos | Datos personales o confidenciales expuestos, filtrados o utilizados indebidamente a través de un sistema o producto de IA. |
| Difamación y afirmaciones falsas | Un sistema de IA generó afirmaciones falsas y perjudiciales sobre una persona u organización identificable. |
| Desinformación | Contenido falso generado por IA que se difundió y causó un daño medible (confusión pública, pánico, injerencia electoral), y que no trata de una sola persona identificable. |
| Acciones erróneas del agente | Un agente de IA realizó por su cuenta una acción que causó pérdidas: borrar datos, hacer compras o transferencias no autorizadas, enviar mensajes, modificar sistemas. |
| Citas inventadas | Hechos o citas jurídicas inventados por una IA y presentados ante un tribunal o en trabajos oficiales o profesionales, con el resultado de sanciones, errores o procedimientos inútiles. |
| Brecha de seguridad | Sistemas de IA explotados o utilizados para comprometer otros sistemas: inyección de instrucciones (prompt injection), intrusiones asistidas por IA, herramientas de IA maliciosas. |
| Contenido dañino | Resultados de una IA que expusieron a personas (en especial a menores de edad) a contenido o instrucciones sexuales, violentos o peligrosos. |
Sistema de IA
| Chatbot / asistente | IA conversacional (asistentes generales, aplicaciones de compañía, bots de atención al cliente que solo conversan). |
|---|---|
| Agente de IA | Sistema de IA que ejecuta acciones por sí solo con herramientas: agentes de programación, agentes que usan el navegador o el ordenador, agentes que compran, envían, borran o modifican cosas. |
| Imagen / vídeo / voz generativos | Sistemas que crean imágenes, vídeos, audios sintéticos o clonaciones de voz. |
| Recomendación / clasificación | Algoritmos de feeds, clasificación, segmentación publicitaria o moderación de contenido. |
| Vehículo autónomo / asistencia a la conducción | Automóviles autónomos, robotaxis, sistemas de asistencia a la conducción, drones o embarcaciones autónomos. |
| Reconocimiento facial / biometría | Reconocimiento facial, de voz u otra identificación biométrica, y reconocimiento de emociones. |
| Sistema de decisión automatizada | Sistemas de puntuación o de elegibilidad usados en crédito, seguros, prestaciones sociales, contratación, labores policiales, salud o educación. |
| Robot | Robots físicos que no son vehículos (industriales, de reparto, domésticos, quirúrgicos). |
| Herramientas de IA para desarrolladores | Modelos, API, asistentes de programación o plataformas de IA cuyos fallos o vulnerabilidades perjudicaron a usuarios u operadores (cuando no se trata de un agente que actúa por sí solo). |
| Otro sistema de IA | Cualquier otro sistema de IA. |
Gravedad
| 1 — Leve | Molestia o vergüenza, reversible en pocos días; pérdida inferior a 1000 US$ por víctima; sin lesiones (p. ej., una respuesta errónea de un chatbot corregida después, una pequeña compra no deseada). |
|---|---|
| 2 — Moderada | Pérdida de 1000 a 100 000 US$; pérdida de datos recuperable o interrupción del servicio de menos de 24 horas; lesión leve; detención o retención indebida de menos de 24 horas; datos personales de menos de 10 000 personas expuestos; un deepfake (ultrafalso) no sexual que perjudica a una persona identificable. |
| 3 — Grave | Lesión que requiere atención hospitalaria; pérdida de 100 000 a 10 millones de US$; detención de 24 horas o más o una imputación indebida; pérdida irrecuperable de datos de una organización; interrupción de 24 horas o más o que afecta a 100 000 usuarios o más; datos sensibles de 10 000 personas o más expuestos; deepfakes (ultrafalsos) sexuales de personas identificables; denegación discriminatoria de empleo, crédito o prestaciones a un grupo; daño a un menor de edad. |
| 4 — Muy grave | Muerte de una persona o daño grave a la salud; pérdida superior a 10 millones de US$; datos sensibles de 1 millón de personas o más expuestos; perturbación grave e irreversible de infraestructuras críticas; material de abuso sexual o daño a muchos menores de edad; una conclusión de un tribunal o regulador que constate una vulneración de derechos fundamentales. |
| 5 — Catastrófica | Varias muertes, o alteración de una comunidad o de la sociedad más allá de su capacidad de respuesta. |
Cómo se ha establecido
| Informado | Descrito por fuentes fiables, pero sin confirmación de una parte implicada ni determinación de un tribunal o regulador. Incluye demandas presentadas, denuncias, detenciones, imputaciones, investigaciones, órdenes de consentimiento y acuerdos extrajudiciales sin reconocimiento de responsabilidad. |
|---|---|
| Confirmado por una parte | La empresa que creó o utilizó el sistema de IA, o la organización afectada, confirmó públicamente los hechos ocurridos (aunque discuta la responsabilidad), o la policía o las autoridades confirmaron que el suceso tuvo lugar. |
| Determinación de un regulador o tribunal | Una sentencia o resolución judicial con hechos probados, una decisión final de un regulador con conclusiones, una condena penal o una declaración de culpabilidad, o la decisión de un tribunal establece lo ocurrido. Los acuerdos extrajudiciales, las órdenes de consentimiento y las imputaciones no cuentan. |
Traducciones
Las páginas se redactan primero en inglés y después las traduce un modelo de IA, con ayuda de un glosario. Cada traducción se comprueba automáticamente (las mismas cifras y nombres, el mismo número de elementos en la cronología, ningún texto sin traducir) y luego la revisa un modelo de un proveedor de IA distinto para detectar cambios de significado, atribuciones o negaciones perdidas y redacciones inseguras. Una versión en otro idioma solo se publica si supera ambas comprobaciones. Los resúmenes en chino se acortan a entre 80 y 150 caracteres; pueden omitir detalles secundarios, pero conservan quién dice qué.
Las guías "Protéjase" se comprueban del mismo modo y, además, cada recomendación y cada dato de la guía en inglés se verifica con la fuente oficial a la que enlaza; una guía solo se muestra mientras esa comprobación se supere. La comprobación se repite cada 30 días.
Estadísticas de calidad
Recuentos de nuestro proceso automatizado en los últimos 30 días.
| Incidentes publicados | 2 |
|---|---|
| Actualizaciones de incidentes publicadas | 0 |
| Borradores retenidos por los controles automáticos | 8 |
| Incidentes candidatos descartados tras repetidos controles fallidos | 3 |
| Solicitudes de corrección o eliminación tramitadas | 1 |
| Entradas corregidas, retiradas temporalmente o eliminadas tras una solicitud | 0 |
Actualizaciones
Los nuevos informes se recopilan cada hora. Cada hora se comprueba, frente al incidente correspondiente, si hay titulares que mencionan a una empresa o un producto de un incidente en seguimiento junto con una novedad (una demanda, una resolución judicial, una multa, una retirada de producto o una respuesta), y una vez al día realizamos búsquedas adicionales; cuando se confirma una nueva fuente, se actualiza la cronología. Cada página muestra cuándo se añadió y cuándo se actualizó por última vez.
Limitaciones
- Nuestros recuentos reflejan lo que han informado las fuentes fiables y lo que nuestro sistema ha encontrado y verificado. No son el número real de daños causados por la IA en el mundo y no deben interpretarse como una clasificación de empresas o productos.
- La cobertura mediática es desigual según los países, los idiomas y los tipos de daño.
- Las líneas de ayuda que se muestran en las páginas sobre suicidio o autolesiones se comprueban cada día con la página oficial de cada servicio. Cuando nuestro verificador no puede acceder a esa página, el número se confirma a partir de una noticia, que puede no reflejar un cambio posterior; esas entradas se marcan en la página.
- Los sistemas automatizados cometen errores. Si encuentra alguno, por favor infórmenos.