Google presenta su herramienta de detección mediante IA: ¿Qué es SynthID y cómo funciona?

A medida que la sofisticación de la inteligencia artificial continúa acelerándose, la línea entre los medios auténticos y el contenido sintético se ha vuelto cada vez más difusa. Para abordar la creciente necesidad de transparencia, Google ha abierto oficialmente al público su sitio web de verificación SynthID, que ofrece una nueva herramienta gratuita diseñada para identificar imágenes, videos y audio generados por IA.

¿Qué es SynthID?

Desarrollado por Google DeepMind y presentado por primera vez en 2023, SynthID es una tecnología de marca de agua robusta. A diferencia de las marcas de agua tradicionales que se pueden recortar o eliminar fácilmente, SynthID incrusta señales digitales imperceptibles directamente en el contenido multimedia en el momento de su creación. Estos marcadores están diseñados para persistir incluso después de una manipulación significativa, como ajustes de color, compresión de archivos o recorte, lo que la convierte en una herramienta crítica para verificar la procedencia en una era de deepfakes y desinformación generada por IA.

Cómo usar la herramienta de verificación

El sitio web recientemente abierto al público permite a los usuarios cargar varios formatos de medios, incluidos JPG, PNG, WEBP y GIF para imágenes; MP4 y MOV para video; y formatos de audio como MP3 y WAV. Una vez que se carga un archivo, el sistema escanea la firma digital. Si se encuentra, proporciona evidencia de que el contenido fue creado o modificado por sistemas de IA que admiten el estándar SynthID.

Entendiendo las limitaciones

Si bien este es un paso importante hacia adelante, es crucial entender qué es SynthID y qué no es.

• No es un detector universal: SynthID no es una solución integral para detectar todo el contenido generado por IA. Solo confirma la presencia de su marca de agua incrustada específica.
• El significado de 'No detectado': Un escaneo negativo no prueba que un contenido multimedia sea de creación humana. El contenido puede haber sido generado por un sistema que no utiliza el estándar SynthID, o puede haber sido sometido a modificaciones extremas que eliminaron la marca de agua.

Por qué esto importa

Google no es el único actor en este ámbito; empresas como OpenAI y Nvidia también están explorando sistemas de marcas de agua y procedencia. Si bien aún no existe un estándar universal, la decisión de Google de hacer que SynthID sea accesible para todos, no solo para periodistas e investigadores, marca un cambio positivo en la alfabetización digital. Con millones de solicitudes de verificación que ya se procesan diariamente, esta tecnología se está convirtiendo en una capa esencial de seguridad en nuestras vidas digitales, ayudando a los usuarios a tomar decisiones informadas sobre los medios que consumen.