SynthID: qué es y como ayuda a identificar imágenes por IA

SynthID es una tecnología diseñada para marcar y detectar imágenes generadas por IA mediante señales invisibles, ayudando a combatir la desinformación y mejorar la trazabilidad del contenido digital. Algo vital, ya que conforme avanza la IA, los vídeos e imágenes generados con ella cada vez son más realistas, en algunos casos, pueden ser difíciles de identificar, lo cual es peligroso por los posibles engaños, fake news, etc.

Si quieres saber más sobre la IA, aquí tienes más contenido…

Qué es SynthID

SynthID es un sistema de watermarking imperceptible que inserta una señal digital en la imagen generada por IA. Esta señal no es visible para el ojo humano, pero sí detectable mediante un modelo especializado. De este modo, si no sabes si una imagen está generada por IA o no, puedes usar esta herramienta desarrollada por Google y que se basa en tres componentes esenciales para detectar fakes:

• Inserción de marca de agua: un modelo neural modifica sutilmente los valores de los píxeles para incrustar un patrón matemático único. No afectará a la calidad visual aparentemente, y es fiable en cuanto a transformaciones comunes como escalado, compresión o recorte.
• Detección: es otro modelo analiza la imagen y determina si contiene la marca de agua. Tiene una tasa de aciertos, y puede devolver un resultado de marca.
• Clasificación: el sistema evalúa la probabilidad de que la imagen sea generada por IA y si ha sido alterada, según los datos obtenidos.

Además, lo bueno de SynthID es que no depende de metadatos, lo que lo hace resistente a manipulaciones que normalmente eliminarían información EXIF o JSON. Como sabes, los metadatos se pueden manipular, falseando los resultados de otras herramientas de detección de fakes. En el caso de Google, no es así, así que aunque hayan sido modificados o borrados, identificará la imagen.

También te puede interesar leer sobre NPU vs CPU vs GPU para IA

Una forma para los medios de comunicación, centros de educación y divulgación, publicidad, seguridad digital, y lucha contra la desinformación. De esta forma se aporta transparencia al saber si la IA ha generado una imagen o es real, también manteniendo una trazabilidad incluso tras haber sido editada. Ahora bien, ¿es infalible? No sabemos si lo es al 100%, y en todo caso, al estar bajo el control de Google, ellos podrían alterar los datos si quisiesen… Disponer de este tipo de sistemas abiertos e independientes de toda compañía u organización es vital para el futuro, ya que ¿qué pasará cuando la IA mejore tanto como para generar fotos y vídeos extremadamente realistas sin que haya diferencias con la realidad y se puedan usar como pruebas en juicios, etc.? Esto es un peligro mayúsculo.

Cómo usar SynthID: tutorial paso a paso

A continuación tienes un tutorial práctico para utilizar SynthID tanto para marcar como para detectar imágenes generadas por IA. El método genérico para poderlo usar, consta de estos pasos:

Paso 1: Acceder a SynthID

SynthID está disponible en:

• Herramientas de Google DeepMind. Puedes entrar en este enlace y empezar a usarlo integrado en este ecosistema de Google.
• Integraciones con modelos generativos compatibles
• APIs y SDKs de Google Cloud (cuando están habilitadas)

Debes asegurarte de que tu entorno de generación de imágenes soporte SynthID.

Paso 2: Subir o cargar una imagen para detección

Para analizar una imagen:

1. Accede al detector SynthID.
2. Sube la imagen o proporciona su ruta.
3. El sistema procesará los píxeles para buscar la señal incrustada.

El detector no necesita metadatos ni información adicional.

Paso 3: Interpretar los resultados

SynthID devuelve uno de estos estados:

• Alta confianza: la imagen contiene la marca de agua original.
• Baja confianza: la imagen puede haber sido editada o degradada.
• No marcada: no se detecta señal SynthID.

Esto permite verificar si una imagen proviene de un generador compatible.

Usar SynthID desde Google Gemini

Si ya usas Google Gemini de forma habitual, también puedes usarlo directamente desde allí. Simplemente:

1. Abre Gemini en la web o app.
2. Ve al prompt y en el icono de Añadir archivos, sube la imagen que quieras.
3. Haz una pregunta en el prompt como: «¿Se ha generado o editado este contenido con IA?«
4. Gemini usará SynthID y escaneará el archivo y te indicará si detecta alguna marca que identifique si ha sido generada con IA o no…

Diferencias entre SynthID y otros métodos

Si comparamos el método SynthID con otros métodos tradicionales, hay que considerar lo siguiente:

• Metadatos tradicionales: son como una “etiqueta” que se añade a un archivo (por ejemplo, EXIF) para incluir información como autor, fecha y cámara de origen. Su principal debilidad es que son extremadamente frágiles, ya que se eliminan con un simple “guardar como”, una captura de pantalla o al subir el archivo a una red social. También se pueden manipular con programas como FOCA, y otros muchos.
• Marcas de agua visibles: son los logotipos semitransparentes que se superponen a una imagen para identificar a su propietario. Aunque son eficaces para disuadir un uso no autorizado, son intrusivas, pero podrían eliminarse con herramientas de edición de imágenes. No hay que confundir la marca que usa SynthID para detectar contenido IA con marcas de agua visibles, en el caso de SynthID reconoce marcas invisibles integradas en este tipo de imágenes generadas por IA.

Lo más relevante hoy es que las grandes empresas tecnológicas están adoptando un enfoque de seguridad en capas, combinando su tecnología con el estándar C2PA (Content Credentials). Este estándar abierto funciona como una «etiqueta nutricional digital» de procedencia, cifrada y resistente a manipulaciones, que se adjunta al archivo para detallar su origen y las herramientas utilizadas en su creación y modificaciones posteriores. Las autoridades y regulaciones de gobiernos ya están presionando para imponer este sistema e impulsar la transparencia del contenido generado por IA. OpenAI y Google son dos ejemplos de adopción de C2PA.

La Comisión Europea está desarrollando también códigos de conducta sobre estas marcas y se implementarán con la Ley de IA de la UE. También se están desarrollando iniciativas europeas para poder diferenciar este tipo de contenido, dada su importancia…

El futuro de la autenticación de contenido generado por IA

SynthID, ni otros métodos, son infalibles ni universales por el momento, y esto es de gran preocupación dado el realismo del contenido generado por IA y que podría dar lugar a pruebas falsas en el futuro, fake news imposibles de detectar, etc. Por eso, se está trabajando para que esto sea diferente, y se pueda reconocer el contenido de IA de forma más precisa.

Mirando hacia adelante, el camino hacia un ecosistema de confianza se perfila en tres grandes tendencias.

• Verificación más robusta basada en marcas visibles o invisibles, Metadatos y «Huellas Digitales«: Microsoft es una de las que está marcando una hoja de ruta para estas huellas digitales o fingerprint que genera un identificador único a partir del contenido en sí utilizando patrones de píxeles y así dejando un patrón imposible de eliminar a menos que se modifique el archivo original de forma profunda.
• Verificación universal: hasta hace poco, cada gran empresa de IA usaba su propio sistema de detección, sin una norma común que permitiera la interoperabilidad, lo que fragmentaba la verificación de contenidos. La creciente colaboración entre Google y OpenAI, unidos bajo el estándar C2PA, es una señal inequívoca de hacia dónde se dirige el mercado. Esta alianza en torno a una infraestructura compartida sugiere que la industria está reconociendo la necesidad de crear un sistema universal. El objetivo a largo plazo es que puedas verificar el origen de cualquier contenido, sin importar con qué modelo se haya creado.
• Del simple «sí/no» al «cómo»: la autenticación no se limitará a responder «¿Esto lo hizo una IA?» de forma tan simple. Se requerirá un etiquetado más matizado que detalle el grado de participación humana o automatizada en la creación de un contenido. Esto es lo que se conoce como Clasificación detallada de la Autoría (FAIA), algo que se usa para cumplir con regulaciones como el Artículo 50 de la Ley de IA de la UE. Ya están saliendo algunos estándares emergentes como el Marco de Atribución Justa de IA (FAIA), que clasifica el contenido en tres niveles (creado por humanos, asistido por IA o generado por IA), incluyendo códigos para definir el uso exacto de la IA (como en la transcripción, traducción o creación), ofreciendo una transparencia mucho mayor.

No obstante, el futuro es bastante incierto, y si no se regula de forma adecuada por parte de los gobiernos, y se deja en manos de las grandes tecnológicas, o incluso si se usa desde los gobiernos de forma maliciosa, los resultados podrían ser graves. Si ya estamos en la era de la «posverdad», imagina lo que puede venir…

¡Déjame tu opinión en los comentarios!