L’intelligence artificielle et la protection des droits fondamentaux
Le rapport examine l’impact des systèmes d’intelligence artificielle sur les droits fondamentaux lorsque l’IA intervient dans des décisions concernant des personnes, de la fourniture de services et de l’octroi de crédits à la sélection de candidats et aux procédures migratoires et répressives. Son point de départ est qu’une telle évaluation n’a de portée pratique que si elle permet de modifier la décision de déployer un système, de prévenir un préjudice et de rétablir la situation de la personne concernée. L’objet de l’analyse n’est donc pas le modèle, mais la décision prise à l’aide de celui-ci.
L’étude passe en revue le cadre juridique au 23 octobre 2026 : le calendrier de l’AI Act tel que modifié par le règlement (UE) 2026/1744, y compris le report des échéances applicables aux systèmes à haut risque ; l’analyse d’impact sur les droits fondamentaux prévue à l’article 27 et son articulation avec l’AIPD ; ainsi que les exigences autonomes en matière de protection des données, d’égalité et de procédure administrative. Elle analyse également la Convention-cadre du Conseil de l’Europe sur l’IA, la méthodologie HUDERIA, les Principes directeurs des Nations unies relatifs aux entreprises et aux droits de l’homme, le NIST AI RMF, le mécanisme français d’accès aux règles des décisions administratives algorithmiques et des repères comparatifs issus du Royaume-Uni et des États-Unis. La partie appliquée porte sur la détection des discriminations, les métriques d’erreur, l’effectivité du contrôle humain et les voies de recours, ainsi que sur la coopération policière, les migrations, les services bancaires et le filtrage au regard des sanctions, l’emploi et les services sociaux.
La conclusion principale est qu’il faut relier quatre éléments : un droit déterminé, le mécanisme d’une atteinte possible, des preuves vérifiables et une mesure de protection. La précision technique d’un modèle ne dit pas si une ingérence est admissible, un certificat de système de management n’établit pas la légalité d’une décision individuelle, et la présence d’un agent dans le processus ne prouve pas que le contrôle est effectif. Le report d’une partie du régime applicable au haut risque ne suspend pas les droits existants et ne justifie pas de différer la préparation.
L’Observatoire ARGA propose un modèle limité de contrôle indépendant fondé sur la preuve, comprenant un volet de recherche, l’examen de situations concrètes lorsqu’existent un mandat et un accès licite, et la préparation de propositions pour des consultations, avec une relecture juridique et une relecture technique distinctes. Un programme pratique prévoit une mise en œuvre progressive, d’un pilote pédagogique à une pratique limitée puis à un réexamen périodique. Les propositions destinées aux consultations internationales portent sur le contenu minimal d’une analyse d’impact, la transmissibilité des explications, la vérification du contrôle humain, l’analyse sécurisée des écarts entre groupes et la correction des décisions déjà prises.
Le rapport précise les limites de ce modèle : il ne confère à l’Observatoire aucun pouvoir de supervision et ne remplace pas la décision d’une autorité compétente ; les situations pratiques et les calculs ont une valeur illustrative ; enfin, les propositions formulées n’attestent ni du dépôt de contributions, ni d’accords avec des autorités publiques, ni de la réalisation d’audits de terrain.
Règles de citation
- Mention obligatoire de la sourceLors de l'utilisation de matériaux d'ARGA Observatory, le nom complet doit être indiqué.
- Indication de la date et de la versionPour les rapports analytiques, l'année de publication est obligatoire.
- Lien vers l'originalLes supports électroniques doivent être accompagnés d'un lien actif vers le site officiel.
- Respect du contexteLes citations ne doivent pas être raccourcies ou modifiées de manière à déformer le sens original.
- Mention d'adaptationSi le texte est abrégé ou traduit, indiquer : « adapté du rapport ARGA Observatory ».
- Utilisation commerciale interdite sans autorisation écrite de l'organisation
- Exactitude des donnéesLes graphiques et tableaux doivent être reproduits sans modification.
Posez votre question aux experts ARGA
Quatre étapes courtes. Réponse sous un jour ouvré.