Enquêter sur les incidents graves liés à l’IA : normes de preuve, signalement et responsabilité
Le rapport porte sur l’enquête relative aux incidents graves impliquant des systèmes d’intelligence artificielle et sur le caractère probant des explications qui en sont données. Sa question centrale est de savoir quelles observations confirment la contribution d’un composant précis à un résultat préjudiciable, comme une identification erronée ou une restriction d’accès injustifiée, quelles explications alternatives restent ouvertes et comment vérifier l’effet d’une correction. La méthode distingue la reconstitution de l’événement, la vérification du mécanisme causal et la qualification juridique : ni une évaluation algorithmique ni un certificat de système de management ne valent, à eux seuls, constat de culpabilité.
L’étude s’appuie sur la criminalistique numérique, l’analyse causale, la sécurité des systèmes et la statistique. Elle examine la préservation des preuves numériques et la chaîne de conservation (chain of custody), la reconstitution de la chronologie lorsque les horloges divergent, les journaux du modèle, les prompts et le contexte de retrieval, la réalité du contrôle humain, la reproduction et les tests contrefactuels, les indices d’attaques ciblées telles que le prompt injection ou la manipulation de la mémoire, ainsi que la distinction entre défaillance du modèle et défaillance du processus.
Le volet juridique, arrêté au 22 octobre 2026, traite séparément les incidents graves au titre des articles 55 et 73 de l’AI Act, les violations de données à caractère personnel au sens du RGPD, les incidents importants relevant de NIS2 et les incidents majeurs liés aux TIC relevant de DORA, en précisant pour chaque régime le seuil juridique, le destinataire et le point de départ du délai de notification. Le rapport aborde aussi les procédures administrative, pénale et civile, les droits des personnes concernées et des domaines de risque typiques : filtrage au regard des sanctions, recherches internationales et extradition, AML/KYC, notation de crédit, IA médicale et deepfakes présentés comme de prétendues preuves.
La conclusion principale est qu’une enquête doit concilier trois résultats distincts : un récit vérifiable des faits, un mécanisme causal étayé et une appréciation juridique des conséquences. Aucune de ces méthodes n’établit à elle seule la faute d’une personne déterminée. La clôture d’un incident doit être confirmée sur ses volets technique, procédural et réparateur : la correction du modèle ne met pas fin au travail tant qu’un enregistrement erroné continue de circuler ou qu’une restriction de droits subsiste.
Pour ARGA, le rapport propose un protocole d’enquête causale comprenant un registre des questions de recherche, une cartographie des données disponibles et perdues, une matrice d’hypothèses alternatives, des tests de reproduction et des critères de clôture, ainsi que cinq normes de qualité pour l’évaluation indépendante. Les cinquante annexes sont des formulaires d’expert et des scénarios pédagogiques, et non des modèles approuvés par un régulateur ou des affaires réelles. Le rapport ne comporte aucune expérimentation sur un dossier réel, n’établit pas l’efficacité de la méthode et ne remplace pas l’appréciation d’un avocat, d’un expert judiciaire ou d’une autorité de contrôle.
Règles de citation
- Mention obligatoire de la sourceLors de l'utilisation de matériaux d'ARGA Observatory, le nom complet doit être indiqué.
- Indication de la date et de la versionPour les rapports analytiques, l'année de publication est obligatoire.
- Lien vers l'originalLes supports électroniques doivent être accompagnés d'un lien actif vers le site officiel.
- Respect du contexteLes citations ne doivent pas être raccourcies ou modifiées de manière à déformer le sens original.
- Mention d'adaptationSi le texte est abrégé ou traduit, indiquer : « adapté du rapport ARGA Observatory ».
- Utilisation commerciale interdite sans autorisation écrite de l'organisation
- Exactitude des donnéesLes graphiques et tableaux doivent être reproduits sans modification.
Posez votre question aux experts ARGA
Quatre étapes courtes. Réponse sous un jour ouvré.