Investigación de incidentes graves de IA: estándares probatorios, notificación y rendición de cuentas

Investigación de incidentes graves de IA: estándares probatorios, notificación y rendición de cuentas

Publicado
noviembre 19, 2026
Autor
Khrabrykh S. A.
Idioma original
Español

El informe examina la investigación de incidentes graves en los que intervienen sistemas de inteligencia artificial y la suficiencia probatoria de las explicaciones que se ofrecen sobre ellos. Su pregunta central es qué observaciones confirman la contribución de un componente concreto a un resultado adverso, como una identificación errónea o una restricción de acceso indebida, qué explicaciones alternativas siguen abiertas y cómo verificar el efecto de una corrección. La metodología separa la reconstrucción del suceso, la comprobación del mecanismo causal y la calificación jurídica: ni una evaluación algorítmica ni un certificado de sistema de gestión equivalen por sí solos a una conclusión de culpabilidad.

El estudio se apoya en la informática forense, el análisis causal, la seguridad de sistemas y la estadística. Aborda la conservación de pruebas digitales y la cadena de custodia, la reconstrucción de la cronología cuando los relojes no coinciden, los registros del modelo, los prompts y el contexto de retrieval, el carácter real o meramente formal de la supervisión humana, la reproducción y las pruebas contrafácticas, los indicios de ataques dirigidos como el prompt injection o la manipulación de la memoria, y la distinción entre fallo del modelo y fallo del proceso.

El análisis jurídico, actualizado al 22 de octubre de 2026, trata por separado los incidentes graves conforme a los artículos 55 y 73 del AI Act, las violaciones de la seguridad de los datos personales según el RGPD, los incidentes significativos de NIS2 y los incidentes graves relacionados con las TIC de DORA, y precisa para cada régimen el umbral jurídico, el destinatario y el momento en que empieza a correr el plazo de notificación. El informe analiza también los procedimientos administrativo, penal y civil, los derechos de las personas afectadas y ámbitos de riesgo típicos: el control de sanciones, la búsqueda internacional y la extradición, AML/KYC, la calificación crediticia, la IA médica y los deepfakes presentados como supuestas pruebas.

La conclusión principal es que una investigación debe conciliar tres resultados independientes: un relato verificable de los hechos, un mecanismo causal fundamentado y una valoración jurídica de las consecuencias. Ninguno de estos métodos establece por sí solo la culpa de una persona concreta. El cierre de un incidente debe confirmarse en sus vertientes técnica, procedimental y reparadora: corregir el modelo no pone fin al trabajo mientras un registro erróneo siga transmitiéndose o se mantenga una restricción de derechos.

Para ARGA, el informe propone un protocolo de investigación causal con un registro de preguntas de investigación, un mapa de datos disponibles y perdidos, una matriz de hipótesis alternativas, pruebas de reproducción y criterios de cierre, así como cinco estándares de calidad para la evaluación independiente. Los cincuenta anexos son formularios periciales y escenarios didácticos, no plantillas aprobadas por un regulador ni casos reales. El informe no contiene experimentos sobre un caso real, no demuestra la eficacia de la metodología y no sustituye la valoración de un abogado, un perito judicial o una autoridad de supervisión.

Texto completo del documento
ARGA Observatory

Normas de citación

  1. Atribución obligatoria de la fuenteAl utilizar materiales de ARGA Observatory, se debe indicar el nombre completo.
  2. Indicación de fecha y versiónPara informes analíticos, es obligatorio indicar el año de publicación.
  3. Enlace al originalLos materiales electrónicos deben ir acompañados de un enlace activo al sitio oficial.
  4. Preservación del contextoLas citas no deben acortarse ni modificarse de manera que distorsionen el significado original.
  5. Nota de adaptaciónSi el texto está resumido o traducido, indicar: "adaptado del informe de ARGA Observatory".
  6. Prohibido el uso comercial sin permiso por escrito de la organización
  7. Preservación de la exactitud de los datosLos gráficos y tablas deben reproducirse sin cambios.
Consulta confidencial

Consulte a los expertos de ARGA

Cuatro pasos breves. Respondemos en un día hábil.

Paso 1 de 4
¿A qué situación se enfrenta?
¿En qué etapa está el caso?
Describa la situación
Este campo es opcional.
¿Cómo podemos contactarle?
Su consulta llega directamente a los expertos de ARGA. No la publicamos ni la cedemos a terceros.
Registro oficial
ARGA en los registros internacionales
UNGM ID
1232417
ARGA está registrada en el sistema de adquisiciones de la ONU.
Ver registro
UN Global Compact
213173
Participante del Pacto Mundial de la ONU.
ADB GMS Number
049963
Banco Asiático de Desarrollo — participante registrado.
Scroll al inicio