Para no quedarse atrás con el lanzamiento de Gemini de Google, Meta está implementando una nueva experiencia de IA generativa independiente en la web, Imagine with Meta, que permite a los usuarios crear imágenes describiéndolas en lenguaje natural.
Al igual que DALL-E, Midjourney y Stable Diffusion de OpenAI, Imagine with Meta, que funciona con el modelo de generación de imágenes Emu existente de Meta, crea imágenes de alta resolución a partir de indicaciones de texto. Es de uso gratuito (al menos por ahora) para los usuarios en los EE. UU. y genera cuatro imágenes por mensaje.
“Nos ha gustado escuchar a la gente hablar sobre cómo utilizan imagine, la función de generación de texto a imagen de Meta AI, para crear contenido divertido y creativo en los chats. Hoy, estamos ampliando el acceso a la imaginación fuera de los chats”, escribe Meta en una entrada de blog publicada esta mañana. “Si bien nuestra experiencia de mensajería está diseñada para interacciones más lúdicas y de ida y vuelta, ahora también puede crear imágenes gratuitas en la web”.
Ahora, las herramientas de generación de imágenes de Meta han puesto a la empresa en aprietos en el pasado reciente (ver: El generador de pegatinas de IA con sesgo racial de Meta), lo que hace que este escritor se pregunte si hay salvaguardas en Imagine with Meta para evitar que la historia se repita. No tuvimos la oportunidad de probar la herramienta antes de su lanzamiento, pero ten por seguro que estaremos atentos a medida que Imagine with Meta llegue a más usuarios.
Al principio no estarán activas, pero Meta se comprometió a comenzar a agregar marcas de agua al contenido generado por Imagine with Meta en las próximas semanas para “aumentar la transparencia y la trazabilidad”. (Ya hay una marca de agua visible). Las marcas de agua, que son invisibles, se generarán con un modelo de IA y se podrán detectar con un modelo correspondiente, dice Meta. No se sabe si el modelo de detección se hará público en algún momento.
“[Las marcas de agua son] resistentes a las manipulaciones comunes de imágenes como el recorte, el cambio de tamaño, el cambio de color (brillo, contraste, etc.), las capturas de pantalla, la compresión de imágenes, el ruido, las superposiciones de pegatinas y más”, declaró Meta en la publicación. “Nuestro objetivo es llevar la marca de agua invisible a muchos de nuestros productos con imágenes generadas por IA en el futuro”.
Las técnicas de marca de agua para el arte generativo no son nuevas. La startup francesa Imatag ofrece una herramienta de marca de agua que, según afirma, no se ve afectada por el cambio de tamaño, el recorte, la edición o la compresión de imágenes. Otra empresa, Steg.AI, emplea un modelo de IA para aplicar marcas de agua que sobreviven al cambio de tamaño y otras ediciones. Microsoft y Google han adoptado estándares y tecnologías de marca de agua basados en IA, mientras que en otros lugares, Shutterstock y Midjourney han acordado pautas para incrustar marcadores que indiquen que su contenido fue creado por una herramienta de IA generativa.
Pero la presión está aumentando sobre las empresas tecnológicas para que dejen más claro que las obras fueron generadas por IA, particularmente a la luz de la avalancha de Deepfakes de la guerra de Gaza y la elusión de filtros de imágenes de abuso infantil generadas por IA.
Recientemente, la Administración del Ciberespacio de China emitió regulaciones que requieren que los proveedores de IA generativa marquen el contenido generado, incluidos los generadores de texto e imágenes, sin afectar el uso del usuario. Y en las recientes audiencias del comité del Senado de EE. UU., la senadora Kyrsten Sinema (I-AZ) enfatizó la necesidad de transparencia en la IA generativa, incluso mediante el uso de marcas de agua.
