Supervisión independiente de la frontier AI: evaluación de las capacidades de los modelos potentes
El informe examina la supervisión independiente de la frontier AI, es decir, de los modelos de uso general más capaces del momento y de los sistemas construidos sobre ellos. La pregunta de investigación es qué propiedades de un sistema deben establecerse antes de otorgarle determinadas facultades y qué observaciones deben modificar esa decisión. El objeto de la evaluación no es solo el modelo, sino toda la configuración: herramientas, derechos de acceso, fuentes, presupuesto de interacción y momento de intervención humana.
La parte jurídica compara normas vinculantes y marcos voluntarios: el régimen de los modelos de uso general con riesgo sistémico conforme a los artículos 51 y 55 del AI Act, el Código de buenas prácticas GPAI, el modelo británico de investigación pública a través del AI Security Institute, la combinación en Estados Unidos de instituciones técnicas federales y legislación de California y Nueva York, así como la coordinación internacional en el G7, la OCDE y la ONU. La parte metodológica se apoya en la teoría de la medición, el diseño experimental, la estadística y el análisis de seguridad de sistemas. Aborda el modelado de amenazas, la capability elicitation, los límites de los benchmarks públicos, la elusión de salvaguardas y la prompt injection, la publicación de pesos abiertos, los procedimientos go/no-go, la cadena de custodia de las pruebas y la independencia del evaluador. Se analizan por separado el cumplimiento en materia de sanciones, el intercambio policial internacional y la verificabilidad judicial de las conclusiones algorítmicas.
La conclusión principal es que la frontier AI debe evaluarse en el nivel de un sistema concreto que gobierna acciones. La evaluación de capacidades, la de la propensión a comportamientos indeseables, las pruebas de las salvaguardas y la auditoría de los procesos de gobernanza son objetos distintos que no pueden reducirse a una única «evaluación de seguridad» ni a una puntuación global compensatoria. Las clasificaciones públicas, el volumen de cómputo y los certificados de gestión no sustituyen estas operaciones, y la ausencia de una acción prohibida ejecutada no demuestra que el modelo se comporte de forma segura. En el uso transfronterizo, una prueba independiente conserva su valor probatorio, pero no se convierte automáticamente en un reconocimiento oficial por parte de un Estado.
Para el Observatoire ARGA, el informe propone un modelo institucional de seguimiento basado en la investigación, con un mandato transparente, revisión interna y normas sobre conflictos de intereses, así como un programa por etapas de doce meses: desde políticas básicas y un piloto con un agente de entrenamiento seguro hasta evaluaciones comparativas limitadas y una revisión anual. Como primera prioridad se señala la evaluación piloto de un asistente jurídico agéntico en un entorno aislado.
El informe no es un certificado ni un dictamen sobre un modelo concreto, y no implica que ARGA haya obtenido la condición de laboratorio de ensayos. Sus formularios y matrices se presentan como propuestas de los autores para un uso piloto tras su adaptación jurídica y técnica; la fecha de corte normativo es el 21 de octubre de 2026.
Normas de citación
- Atribución obligatoria de la fuenteAl utilizar materiales de ARGA Observatory, se debe indicar el nombre completo.
- Indicación de fecha y versiónPara informes analíticos, es obligatorio indicar el año de publicación.
- Enlace al originalLos materiales electrónicos deben ir acompañados de un enlace activo al sitio oficial.
- Preservación del contextoLas citas no deben acortarse ni modificarse de manera que distorsionen el significado original.
- Nota de adaptaciónSi el texto está resumido o traducido, indicar: "adaptado del informe de ARGA Observatory".
- Prohibido el uso comercial sin permiso por escrito de la organización
- Preservación de la exactitud de los datosLos gráficos y tablas deben reproducirse sin cambios.
Consulte a los expertos de ARGA
Cuatro pasos breves. Respondemos en un día hábil.