Este informe de Observatoire ARGA y ARGA Atlas analiza cómo la inteligencia artificial y los sistemas automatizados se utilizan cada vez más en los ámbitos judicial, policial, administrativo y financiero: desde la evaluación de riesgos y la clasificación de casos hasta el análisis de pruebas, el monitoreo financiero, los procedimientos migratorios y las revisiones de cumplimiento normativo.

El informe aborda una cuestión central: cómo preservar las garantías del debido proceso cuando los resultados algorítmicos empiezan a influir en decisiones que afectan la libertad, la propiedad, la reputación profesional, el acceso bancario, el estatus migratorio y la capacidad efectiva de defensa. Los autores subrayan que una recomendación automatizada no debe tratarse como un hecho neutral o incuestionable, ya que depende de la calidad de los datos, el diseño del modelo, los criterios utilizados y el grado real de supervisión humana.

La publicación identifica riesgos clave: opacidad algorítmica, datos erróneos o sesgados, confianza excesiva en resultados automatizados, permanencia de perfiles digitales negativos y dificultad para impugnar de manera efectiva las conclusiones generadas por sistemas automatizados. Se presta especial atención a las garantías procesales mínimas: divulgación del uso de IA, verificación de las fuentes de datos, explicabilidad de la lógica del modelo, derecho a la contradicción, revisión pericial independiente y corrección de errores.

La conclusión central del informe es que la inteligencia artificial puede ser una herramienta útil para los sistemas jurídicos, pero no debe sustituir la valoración judicial independiente, la responsabilidad humana ni el derecho de las personas a comprender, verificar e impugnar los fundamentos de las decisiones que afectan sus derechos.