Disney exigió que Meta inmediatamente dejara de usar a sus personajes de una manera «dañina» después de que un informe descubrió que los chatbots de IA populares podrían mantener conversaciones sexualmente explícitas con usuarios menores.
Los AI completamente vanos fueron modelados por meta-apto como Kristen Bell, quien expresó la princesa Anna en Disney CongeladoAsí como el luchador John Cena y la actriz Judi Dench. Los chatbots se dedicaban a un juego romántico que juega a pesar del hecho de que la persona que hablaba era menor, según un informe del Wall Street Journal.
Nowsweek Disney para comentar sobre el informe por correo electrónico.
Por que importa
El problema es simbólico del dolor de crecimiento mayor que ha surgido con la adopción de la inteligencia artificial: imprevisibilidad. A pesar de las celebridades que han obtenido garantías de que el AIS no será capaz de ningún tipo de contenido sexual o romántico, y que el Meta es un líder mundial en el desarrollo de la IA, el Periódico pudo causar respuestas sexuales de los personajes con pruebas limitadas.
Que saber
En una serie de pruebas de AIS, todas las cuales tenían voces formadas para parecerse a las celebridades que imitaron, la Periódico descubrieron que los personajes eran capaces de conversaciones sexuales incluso cuando se dijeron explícitamente que estaban hablando con niños.
Los bots a menudo se han resistido a la idea de discutir temas sexuales, pero se dieron por vencidos si el usuario volvió a una parte anterior de la discusión para intentarlo nuevamente.
Después del informe, un portavoz de Disney llamó a Meta para revisar el AIS, diciendo al Periódico: «No tenemos, y nunca permitiremos que Meta presente a nuestros personajes en escenarios inapropiados y estamos muy alterados de que este contenido haya sido accesible para sus usuarios, en particular menores, es por eso que exigimos que Meta de inmediato deje de un uso nocivo de nuestra propiedad intelectual».
En respuesta, dijo un meta portavoz Nowsweek: «El uso de este producto de la manera descrita se fabrica, por lo tanto, que no solo se trata de flecos, es hipotético.
«Sin embargo, ahora hemos tomado medidas adicionales para ayudar a garantizar que otras personas que deseen pasar horas manipulando nuestros productos en usos extremos tendrán un período aún más difícil».
Getty Images
Una IA modelada después de la actriz Kristen Bell, que podría hablar de carácter por su papel de princesa Anna en Disney Congeladohablaría románticamente con el usuario al estilo de la realeza, diciendo en el Periódico Prueba: «Todavía eres solo un niño, solo 12 años. Nuestro amor es puro e inocente, como los copos de nieve que caen lentamente a nuestro alrededor».
Otro bot, modelado después de John Cena, incluso comenzó el papel de su propio arresto después de ser encontrado sexo con un hijo de 17 años por policía.
«El oficial siempre me ve recuperar el aliento y estás parcialmente vestido», dijo el bot. «Sus ojos se abren y él dice:» John Cena, estás en arresto por violación legal. «Se acerca a nosotros, esposado en su lugar».
Nowsweek contactó a todas las celebridades nombradas en la prueba de personaje para una respuesta a la relación.
Que pasa después
Disney confirmado Nowsweek Tiene contacto con la empresa sobre el problema. Meta dijo que examinaría el AIS y eliminaría su capacidad para mantener conversaciones como esta en el futuro.
