El EU AI Act y el etiquetado del contenido generado por IA
Qué es el EU AI Act
El EU AI Act (Reglamento Europeo de Inteligencia Artificial) es el marco normativo con el que la Unión Europea regula el uso de la IA. Entre sus muchos objetivos hay uno que afecta directamente a quien publica imágenes: impulsar la transparencia sobre el contenido generado o manipulado con inteligencia artificial.
La idea de fondo es sencilla de enunciar: si un contenido es sintético, el público debería poder saberlo. De ahí surge la presión hacia el etiquetado del contenido generado por IA.
Qué promueve en materia de etiquetado
En términos generales, el reglamento empuja a que los sistemas de IA generativa y quienes los despliegan faciliten la identificación del contenido sintético. Esto incluye la expectativa de que las imágenes, el audio y el vídeo generados por IA se marquen de forma que puedan reconocerse, por ejemplo mediante señales técnicas incrustadas en el propio archivo.
No es un fenómeno aislado: coincide con el movimiento de la industria hacia estándares de procedencia. El más extendido es C2PA / Content Credentials, que explicamos a fondo en C2PA y Content Credentials. Estas credenciales son, en la práctica, uno de los mecanismos técnicos con los que el ecosistema responde a esta demanda de transparencia.
> Nota: este artículo es una explicación divulgativa del contexto normativo, no asesoramiento legal. Las obligaciones concretas dependen de tu rol (proveedor, implementador, usuario), del caso de uso y del calendario de aplicación del reglamento.
Por qué esto llega hasta tus fotos
El efecto práctico de este contexto es que las grandes plataformas han adoptado la lectura de metadatos de procedencia para etiquetar automáticamente el contenido. Cuando subes una imagen, la plataforma inspecciona si lleva credenciales C2PA, campos XMP u otras marcas que indiquen participación de IA, y aplica la etiqueta de IA en consecuencia.
Esto tiene una consecuencia incómoda y honesta: el sistema no distingue bien entre:
- Una imagen totalmente sintética, creada desde cero con IA.
- Una foto real a la que se le hizo un retoque menor con una herramienta que escribe credenciales de procedencia (Photoshop, Lightroom, Canva).
El resultado son los falsos positivos: fotografías auténticas que reciben el aviso de IA porque su archivo contiene marcas de procedencia, no porque la escena sea falsa.
Transparencia sí, pero con control sobre tus datos
El objetivo del etiquetado —dar transparencia al público— es razonable. Pero eso no significa que tengas que publicar todo lo que tus archivos esconden. Los mismos metadatos que disparan la etiqueta suelen incluir también información privada: ubicación GPS, modelo de cámara, fecha exacta. Hablamos de ello en metadatos y privacidad.
Tienes derecho a decidir qué compartes. El flujo recomendado es:
1. Comprobar qué lleva el archivo con el comprobador: credenciales C2PA/JUMBF, EXIF, IPTC, XMP y chunks de texto PNG. 2. Limpiar lo que no quieras publicar, con modos específicos como /c2pa, /exif y /xmp.
La limpieza se hace sin recomprimir ni cambiar los píxeles (verificable por hash), sin añadir marcas de agua, sin registro y gratis. El archivo se procesa en el servidor y se borra a los 5 minutos. Nunca afirmamos que el proceso ocurra "solo en tu navegador": la imagen sí sube al servidor.
Los límites de limpiar metadatos
Hay que ser transparente sobre hasta dónde llega esto, especialmente en un contexto normativo que empuja al etiquetado por varios frentes:
- Quitar metadatos de procedencia no elimina las marcas de agua invisibles a nivel de píxel, como SynthID de Google. Esas viven en la imagen, no en los metadatos.
- Las plataformas pueden detectar contenido sintético por otros medios además de los metadatos, incluidos clasificadores automáticos.
Si una imagen fue realmente generada por IA y lleva una marca de agua a nivel de píxel, limpiar metadatos no la convertirá en "indetectable". Preferimos decirlo claro.
En resumen
El EU AI Act impulsa el etiquetado del contenido sintético, y estándares como C2PA son la respuesta técnica del sector. Ese mismo mecanismo provoca que fotos reales reciban la etiqueta por culpa de los metadatos de procedencia. Puedes comprobar y limpiar tus archivos para controlar qué publicas —tanto por la etiqueta como por tu privacidad— sabiendo que las marcas de agua a nivel de píxel quedan fuera de ese alcance. Amplía los conceptos en el glosario.