- El detector de SynthID puede ayudar a determinar si una imagen creada con Google AI contiene una marca de agua de SynthID.
Los avances en IA generativa están haciendo posible que las personas creen contenido de formas completamente nuevas, desde texto hasta audio, imágenes y videos de alta calidad. A medida que estas capacidades avanzan y se vuelven más ampliamente disponibles, surgen preguntas sobre la autenticidad, el contexto y la verificación.
Hoy anunciamos SynthID Detector, un portal de verificación para identificar de manera rápida y eficiente el contenido generado por IA creado con Google AI. El portal proporciona capacidades de detección en diferentes modalidades en un solo lugar y proporciona una transparencia esencial en el panorama en rápida evolución de los medios generativos. También puede resaltar qué partes del contenido tienen más probabilidades de tener una marca de agua con SynthID.
Cuando lanzamos SynthID, una herramienta de última generación que incrusta marcas de agua imperceptibles y permite la identificación de contenido generado por IA, nuestro objetivo era proporcionar un conjunto de soluciones técnicas novedosas para ayudar a minimizar la información errónea y la atribución errónea.
SynthID no solo preserva la calidad del contenido, sino que actúa como una marca de agua robusta que sigue siendo detectable incluso cuando el contenido se comparte o se somete a una serie de transformaciones. Si bien originalmente nos enfocamos solo en imágenes generadas por IA, desde entonces hemos expandido SynthID para cubrir contenido de texto, audio y video generado por IA, incluido el contenido generado por nuestros modelos Gemini, Imagen, Lyria y Veo en Google. Más de 10 mil millones de piezas de contenido ya han sido marcadas con SynthID.
Cómo funciona SynthID Detector
Cuando subes una imagen, una pista de audio, un vídeo o un fragmento de texto creado con las herramientas de IA de Google, el portal escaneará los medios en busca de una marca de agua SynthID. Si se detecta una marca de agua, el portal resaltará partes específicas del contenido con mayor probabilidad de tener una marca de agua.
En el caso del audio, el portal señala segmentos específicos en los que se detecta una marca de agua SynthID y, en el caso de las imágenes, indica las áreas en las que es más probable que haya una marca de agua.
Así es como funciona el detector SynthID 1 :
- Subir contenido: Sube una imagen, una pista de audio, un vídeo o un fragmento de texto creado con las herramientas de IA de Google.
- Escaneo de marcas de agua: El portal escanea los medios cargados y detecta si el contenido cargado, o partes específicas del mismo, contiene una marca de agua SynthID.
- Ver resultados: El portal presentará los resultados y, si se detecta una marca de agua SynthID, resaltará qué partes del contenido tienen más probabilidades de tener una marca de agua.
Estamos comenzando a implementar esto para los primeros probadores hoy, antes de que esté disponible de manera más amplia. Periodistas, profesionales de los medios de comunicación e investigadores pueden unirse a nuestra lista de espera para obtener acceso al SynthID Detector.
Expansión del ecosistema SynthID
Para ayudar a hacer crecer un ecosistema de confianza, ya hemos abierto la marca de agua de texto SynthID, por lo que cualquier desarrollador puede construir con esta tecnología e incorporarla a sus propios modelos.
Y a principios de este año, dimos el primer paso en la creación de un ecosistema de socios de la industria para expandir el uso de la tecnología SynthID: nos asociamos con NVIDIA para poner marcas de agua en los videos generados por su microservicio NIM de vista previa de NVIDIA Cosmos™ en build.nvidia.com. Esto significa que más contenido en la web tiene SynthID incrustado, no solo el contenido generado por Google.
Al mismo tiempo, es importante que otros socios puedan detectar cuándo un fragmento de contenido ha recibido una marca de agua con SynthID. Es por eso que hoy también anunciamos nuestra asociación con GetReal Security, la plataforma de verificación de contenido líder en el mundo. Para explorar posibles oportunidades de asociación con SynthID, póngase en contacto con nosotros a través de este formulario.
La transparencia de los contenidos sigue siendo un reto complejo. Para seguir informando y empoderando a las personas que interactúan con el contenido generado por IA, creemos que es vital seguir colaborando con la comunidad de IA y ampliar el acceso a las herramientas de transparencia.
