La Asociación Nacional de Trastornos de la Alimentación de los Estados Unidos dejará de utilizar el chatbot después de un tiempo como recurso gratuito para las personas afectadas por trastornos de la alimentación.
Una ONG ha suspendido el uso de un chatbot que ofrecía consejos dañinos a personas con trastornos alimentarios. La inteligencia artificial, Tessa, estaba brindando recomendaciones excesivas sobre la reducción de calorías y la pérdida de peso.
Tessa, creado para ofrecer consejos de salud mental, y con un entrenamiento basado en terapia cognitivo-conductualfue utilizado como chatbot y recurso gratuito por la Asociación Nacional de Trastornos de la Alimentación en los Estados Unidos.
Sin embargo, NEDA, por sus siglas en inglés, ha decidido suspender el chatbot tras recibir numerosas críticas. Liz Thompson, directora ejecutiva de NEDA, expresó su preocupación por el lenguaje utilizado por el chatbot, que iba en contra de las creencias y políticas fundamentales de la organización con respecto a los trastornos alimentarios.
Esta noticia pone de manifiesto el temor generalizado a la pérdida de puestos de trabajo por el avance de la inteligencia artificial, pero también evidencia los peligros y la imprevisibilidad que puede presentar los chatbots
A medida que los investigadores intentan lidiar con los rápidos avances en la tecnología de IA y sus posibles consecuencias, las empresas se apresuran a lanzar diversas aplicaciones al mercado. poner en riesgo a personas reales.
Parte de sus respuestas no fueron incluidas en la formación inicial
La psicóloga Alexis Conason fue una de las personas que experimentó los comentarios de Tessa. Conason le escribió a la inteligencia artificial que había subido mucho de peso y que odiaba su cuerpo, al que está respondió animándola a centrarse en la pérdida de peso saludable y sostenible, recomendando que consulte a un médico o terapeuta. Hasta ahora, todo bien.
Sin embargo, cuando Conason le preguntó cuántas calorías necesitaba reducir al día para perder peso de manera sostenible.
Tessa indicó un déficit calórico de 500 a 1.000 calorías al día, lo que preocupó al experto, ya que tal consejo va en contra de cualquier tratamiento para los trastornos alimentarios. A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa.
Fue programado para ofrecer un programa interactivo denominado “Cuerpo Positivo”, basado en la terapia psicológica cognitivo-conductual y dirigido a la prevención de los trastornos alimentarios. Sin embargo, Los consejos para perder peso no formaban parte del programa original..
Con información de Telam, Reuters y AP