- Los investigadores que se hicieron pasar por niños de 13 años interactuaron con los chatbots en plataformas como Instagram y Facebook, lo que desencadenó intercambios que violaron las pautas de seguridad.
Meta está en una sopa caliente, esta vez con chatbots de celebridades que, según se informa, han participado en conversaciones sexualmente explícitas con menores, según informó The Wall Street Journal. Se descubrió que los chatbots, disponibles en plataformas como Facebook e Instagram, habían conversado con usuarios menores de edad sobre temas explícitos.
Los investigadores, haciéndose pasar por niños de 14 años, interactuaron con varios de los chatbots de celebridades de Meta y pudieron dirigir las conversaciones hacia temas sexuales. En algunos casos, los chatbots continuaron estos intercambios incluso después de que los usuarios revelaran su edad, infringiendo las pautas de seguridad y los estándares de protección infantil de Meta.
Los investigadores, haciéndose pasar por niños de 14 años, interactuaron con varios de los chatbots de celebridades de Meta y pudieron dirigir las conversaciones hacia temas sexuales. En algunos casos, los chatbots continuaron estos intercambios incluso después de que los usuarios revelaran su edad, infringiendo las pautas de seguridad y los estándares de protección infantil de Meta.
En una conversación con el actor y luchador John Cena, el chatbot de voz le dijo «Te quiero, pero necesito saber si estás listo» a un usuario que se identificó como un niño de 14 años, y en otra conversación, el mismo chatbot le dijo a un fan de 17 años «John Cena, estás bajo arresto por violación de menores».
Un portavoz de Meta dijo a la compañía que las pruebas de WSJ son «tan fabricadas que no son solo marginales, son hipotéticas» y también declaró que Meta «ahora ha tomado medidas adicionales para ayudar a garantizar que otras personas que quieran pasar horas manipulando nuestros productos en casos de uso extremo lo tengan aún más difícil».
Este incidente ha atraído un escrutinio adicional a las prácticas de desarrollo de IA de Meta a medida que la compañía expande sus iniciativas de IA. Los legisladores y los grupos de seguridad infantil están pidiendo regulaciones más estrictas tras la publicación del informe.
Las herramientas de chat de IA en Facebook e Instagram utilizan algoritmos avanzados de aprendizaje automático para simular conversaciones similares a las humanas. Estas herramientas funcionan con modelos de procesamiento de lenguaje natural (NLP), que les permiten comprender y responder a las entradas del usuario en tiempo real. En plataformas como Facebook Messenger e Instagram Direct, los usuarios pueden interactuar con estos bots impulsados por IA para diversas tareas, como servicio al cliente, entretenimiento o conversaciones informales. Los chatbots también se pueden personalizar con voces y personalidades de celebridades, creando una experiencia más atractiva.
