Ce rapport de l’Observatoire ARGA et d’ARGA Atlas analyse la manière dont l’intelligence artificielle et les systèmes automatisés sont de plus en plus utilisés dans les domaines judiciaire, policier, administratif et financier — de l’évaluation des risques et du tri des affaires à l’analyse des preuves, au contrôle financier, aux procédures migratoires et aux vérifications de conformité.

Le rapport examine une question centrale : comment préserver les garanties du procès équitable lorsque des résultats algorithmiques commencent à influencer des décisions touchant à la liberté, aux biens, à la réputation professionnelle, à l’accès bancaire, au statut migratoire et à la capacité effective de se défendre. Les auteurs soulignent qu’une recommandation automatisée ne doit pas être considérée comme un fait neutre ou incontestable : elle dépend de la qualité des données, de la conception du modèle, des critères utilisés et du degré réel de contrôle humain.

La publication identifie les principaux risques : opacité des algorithmes, données erronées ou biaisées, confiance excessive dans les résultats automatisés, persistance d’un profil numérique négatif et difficulté à contester efficacement les conclusions produites par une machine. Une attention particulière est accordée aux garanties procédurales minimales : divulgation de l’utilisation de l’IA, vérification des sources de données, explicabilité de la logique du modèle, droit à la contestation, expertise indépendante et correction des erreurs.

La conclusion principale du rapport est que l’intelligence artificielle peut être un outil utile pour les systèmes juridiques, mais qu’elle ne doit pas remplacer l’appréciation judiciaire indépendante, la responsabilité humaine ni le droit de comprendre, vérifier et contester les fondements des décisions qui affectent les droits d’une personne.