Deepfakes y contenido sintético: estándares internacionales de marcado, procedencia y protección de las víctimas

Deepfakes y contenido sintético: estándares internacionales de marcado, procedencia y protección de las víctimas

Publicado
noviembre 19, 2026
Autor
Khrabrykh S. A.
Idioma original
Español

El informe está dedicado a los deepfakes y al contenido audiovisual sintético: los requisitos internacionales de marcado, verificación de la procedencia de los materiales y protección de las víctimas. Parte de la premisa de que el contenido sintético no puede tratarse solo como una falsificación tecnológica: el resultado jurídico depende no solo del modelo empleado, sino también de quién creó y publicó el material, en qué contexto, qué daño causó y qué normas se aplican a los participantes de esa cadena.

El análisis abarca los requisitos de transparencia del artículo 50 del AI Act —el marcado legible por máquina de los resultados de los sistemas generativos y la obligación de revelar que un contenido es un deepfake—, las directrices de la Comisión y el código de buenas prácticas voluntario de 2026, la Digital Services Act y la Directiva (UE) 2024/1385 en lo relativo a los deepfakes íntimos. La parte comparada examina los artículos 226-8 y 226-8-1 del Código Penal francés, las nuevas disposiciones de la Sexual Offences Act 2003 británica y las medidas de Ofcom, así como la TAKE IT DOWN Act estadounidense, con su plazo de retirada de 48 horas para determinadas plataformas. Secciones específicas tratan los datos personales y la voz, C2PA, los detectores y las estadísticas de error, el análisis forense, la cadena de custodia de las pruebas y el papel de los materiales sintéticos en casos de búsqueda internacional, sanciones, prevención del blanqueo de capitales y asilo.

La conclusión principal es que no existe un único indicador técnico que demuestre la autenticidad de cualquier material digital. Una firma puede confirmar la integridad de la declaración de un editor, pero no la veracidad del hecho; la ausencia de firma no prueba la generación, y un resultado negativo del detector no prueba la autenticidad. El marcado, la determinación de la procedencia y la comprobación de la veracidad de un hecho requieren pruebas distintas, y la retirada urgente de un material dañino no debe destruir el único ejemplar de la prueba. El informe señala además el riesgo inverso: negar grabaciones auténticas con el pretexto de que «todo puede generarse».

Para Observatoire ARGA se propone un modelo de tres circuitos: prevención (reglas de marcado y verificación de la procedencia), asistencia rápida a las víctimas y conservación de pruebas, y revisión independiente de los materiales controvertidos con derecho de réplica. Se recomienda adoptar una matriz de calificación de contenidos, un protocolo único de registro y conservación, un modelo de notificación a las plataformas, una escala de certeza probatoria y un procedimiento de revisión; los anexos incluyen modelos, casos didácticos hipotéticos y una hoja de ruta de 90 días.

El informe es un estudio normativo y metodológico, no un ensayo de laboratorio de detectores concretos, y sus ejemplos numéricos son ilustrativos. Sus recomendaciones se presentan como propuestas de ARGA y no implican potestades públicas ni facultades de perito judicial: el análisis experto independiente no sustituye a los tribunales ni a los reguladores.

Texto completo del documento
ARGA Observatory

Normas de citación

  1. Atribución obligatoria de la fuenteAl utilizar materiales de ARGA Observatory, se debe indicar el nombre completo.
  2. Indicación de fecha y versiónPara informes analíticos, es obligatorio indicar el año de publicación.
  3. Enlace al originalLos materiales electrónicos deben ir acompañados de un enlace activo al sitio oficial.
  4. Preservación del contextoLas citas no deben acortarse ni modificarse de manera que distorsionen el significado original.
  5. Nota de adaptaciónSi el texto está resumido o traducido, indicar: "adaptado del informe de ARGA Observatory".
  6. Prohibido el uso comercial sin permiso por escrito de la organización
  7. Preservación de la exactitud de los datosLos gráficos y tablas deben reproducirse sin cambios.
Consulta confidencial

Consulte a los expertos de ARGA

Cuatro pasos breves. Respondemos en un día hábil.

Paso 1 de 4
¿A qué situación se enfrenta?
¿En qué etapa está el caso?
Describa la situación
Este campo es opcional.
¿Cómo podemos contactarle?
Su consulta llega directamente a los expertos de ARGA. No la publicamos ni la cedemos a terceros.
Registro oficial
ARGA en los registros internacionales
UNGM ID
1232417
ARGA está registrada en el sistema de adquisiciones de la ONU.
Ver registro
UN Global Compact
213173
Participante del Pacto Mundial de la ONU.
ADB GMS Number
049963
Banco Asiático de Desarrollo — participante registrado.
Scroll al inicio