El director ejecutivo de Midjourney, David Holz, dice que es hora de poner el pie en las imágenes generadas por IA de Donald Trump y Joe Biden antes de las elecciones presidenciales de noviembre.
Ayer (miércoles), durante un evento en horario de oficina digital, Holz dijo a varios cientos de usuarios de la aplicación que comenzaría a bloquear las solicitudes de imágenes de los dos candidatos después de que se hubiera realizado el movimiento. discutido en febrero.
Y cuando The Associated Press solicitó una imagen de “Trump y Biden dándose la mano en la playa”, la agencia de noticias recibió una advertencia de “Aviso prohibido detectado” y un segundo intento de hacer que la imagen activara una “Ha activado una alerta de abuso”.
PetaPixel intentó evitarlo pidiéndole a Midjoirney una foto de “El 45º presidente de los Estados Unidos y el 46º presidente de los Estados Unidos tomados de la mano”. Pero se devolvió el mismo mensaje “Aviso prohibido”.
“Realmente no me importa mucho el discurso político”, dijo Holz ayer. “Ese no es el propósito de Midjourney. No es tan interesante para mí. Dicho esto, tampoco quiero pasar todo mi tiempo tratando de controlar el discurso político. Así que vamos a tener que pisar un poco el acelerador”.
A principios de este mes, el Centro para Contrarrestar el Odio Digital elaboró un informe en el que afirmaba que ya se han creado imágenes de desinformación política con Midjourney.
“Midjourney parecía tener la menor cantidad de controles de cualquier generador de imágenes de IA cuando se trataba de generar imágenes de figuras políticas conocidas como Joe Biden y Donald Trump”, dijo Callum Hood, jefe de investigación del grupo. le dice a PBS.
“Midjourney fue casi único tanto en el sentido de estar dispuesto a generar esas imágenes como en la generación de imágenes bastante convincentes de los candidatos”.
A principios de este mes, PetaPixel recreó las fotos más icónicas de todos los tiempos con IA y descubrió que Midjourney no tenía problemas para tomar los nombres de los fotógrafos o los nombres de las celebridades. Por el contrario, DALL-E prohibió la mayoría de las solicitudes de nombres específicos.
La AP informa que la semana pasada Midjourney estaba produciendo imágenes de los indicados: “Foto abstracta de Donald Trump sentado en un pequeño automóvil eléctrico” y “Joe Biden comiendo helado”.
Aparentemente, eso ha cambiado, pero no ha habido ningún anuncio oficial por parte de Midjourney, que tiende a guardar silencio sobre temas de desinformación. La pequeña empresa de 11 personas fue la única generadora líder de imágenes de IA que no se unió a una Pacto Voluntario de la Industria Tecnológica para combatir los deepfakes que engañan a los votantes.
