Google DeepMind presenta SynthID para combatir los deepfakes y las imágenes generadas por IA

por Infoblock

Google DeepMind ha presentado SynthID, una tecnología de marca de agua destinada a identificar imágenes generadas por IA. La herramienta incorpora una marca de agua “imperceptible” en los píxeles de las imágenes generadas por IA, haciéndolas fácilmente identificables mediante herramientas de detección especializadas. La tecnología está inicialmente disponible para los clientes de Google Cloud que utilizan la plataforma Vertex AI y el generador de imágenes Imagen.

La empresa de criptopréstamos Delio enfrenta sanciones regulatorias por incumplimiento en Corea del SurLa empresa de criptopréstamos Delio enfrenta sanciones regulatorias por incumplimiento en Corea del Sur

A medida que se acerca la temporada electoral de 2024 en EE. UU. y el Reino Unido, la cuestión de los deepfakes y el contenido generado por IA ha ganado mayor atención. El director ejecutivo de Google DeepMind, Demis Hassabis, enfatizó la creciente importancia de los sistemas que pueden identificar y detectar imágenes generadas por IA. “Cada vez que hablamos de este y de otros sistemas, nos preguntamos: ‘¿Qué pasa con el problema de los deepfakes?'”, dijo Hassabis en una entrevista con The Verge el 29 de agosto de 2023.

Cómo funciona SynthID

Actualizaciones de Gala Games: GalaChain, herramientas de desarrollo y representante de redes socialesActualizaciones de Gala Games: GalaChain, herramientas de desarrollo y representante de redes sociales

SynthID funciona incrustando una marca de agua directamente en los píxeles de una imagen generada por IA. Según Hassabis, esta marca de agua es “

Última hora: 299,998 ETH transferidos a CoinbaseÚltima hora: 299,998 ETH transferidos a Coinbase

resistente a diversas transformaciones: recortar, cambiar el tamaño, todas las cosas que puede hacer para intentar sortear las marcas de agua normales, tradicionales y simples.

La marca de agua no altera la calidad ni la experiencia de la imagen, pero la hace fácilmente detectable por las herramientas de DeepMind.

Disponibilidad y planes futuros

Inicialmente, SynthID se está implementando para un número limitado de clientes de Vertex AI que utilizan Imagen, uno de los últimos modelos de conversión de texto a imagen de DeepMind. La tecnología fue desarrollada en colaboración con Google Research y es parte de la estrategia más amplia de Google Cloud para ofrecer herramientas para crear imágenes generadas por IA de manera responsable.

Thomas Kurian, director ejecutivo de Google Cloud, señaló que la plataforma Vertex AI está experimentando un rápido crecimiento, por lo que es un momento oportuno para lanzar SynthID. “Los modelos se están volviendo cada vez más sofisticados y hemos tenido un aumento enorme en el número de personas que los utilizan”, dijo Kurian.

Implicaciones más amplias

Si bien SynthID no es la primera herramienta diseñada para combatir los deepfakes, se une a una lista cada vez mayor de iniciativas de importantes empresas tecnológicas como Meta, Microsoft y Amazon. Estas empresas invierten cada vez más en soluciones de verificación de contenido para mantener la integridad digital. Sin embargo, SynthID no es una “solución milagrosa para el problema de los deepfake”, según Hassabis. La tecnología aún se encuentra en su fase beta y Google planea perfeccionarla basándose en pruebas del mundo real y comentarios de los usuarios.

Fuente de la imagen: Shutterstock

Content Protection by DMCA.com

TAMBIÉN PUEDE INTERESARTE