Un ‘chatbot’ que reemplazó a trabajadores de una línea de ayuda contra los trastornos alimenticios da consejos dañinos y peligrosos

Las quejas por el funcionamiento del chatbot Tessa obligaron este martes a la Asociación Nacional de Trastornos de la Alimentación de EE.UU. a desconectarlo.
Un 'chatbot' que reemplazó a trabajadores de una línea de ayuda contra los trastornos alimenticios da consejos dañinos y peligrosos

Fuente: https://actualidad.rt.com

La Asociación Nacional de Trastornos de la Alimentación de EE.UU. (NEDA, por sus siglas en inglés) tuvo que desconectar a su chatbot de inteligencia artificial, Tessa, que estaba a cargo de su línea de ayuda, luego de quejas sobre consejos y respuestas inadecuadas.

La activista Sharon Maxwel compartió este lunes su experiencia con la herramienta. «Cada cosa que sugirió Tessa fueron cosas que llevaron al desarrollo de mi trastorno alimentario. Este robot causa daño«, señaló.



En diálogo con el portal de noticias The Daily Dot, Maxwell explicó que Tessa la había alentado a perder peso, contar sus calorías diarias y pesarse con frecuencia. «Si hubiera ido y hablado con Tessa, cuando estaba luchando con mi trastorno alimenticio, no creo que estuviera aquí hoy», dijo.

Alexis Conason, una psicóloga especializada en el tratamiento de esos desórdenes, también probó el chatbot y publicó los resultados. «Validar que ‘sí, es importante que pierda peso’ es apoyar los trastornos alimentarios y eso fomenta comportamientos desordenados y poco saludables», comentó.

En este contexto, la NEDA informó que detuvo el funcionamiento de Tessa «hasta nuevo aviso para una investigación completa», porque «pudo haber brindado información dañina y no relacionada con el programa».

¿Innovar o romper sindicatos?

Si bien Tessa ha estado en funcionamiento dentro de la asociación desde febrero de 2022, se tomó la decisión de posicionarlo como el principal sistema de apoyo de la plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos. De este modo, sus directivas anunciaron que, después de 20 años de servicio, la línea desaparecería el 1 de junio y sería reemplazada por el chatbot. En el marco de esta reestructuración, varios empleados fueron despedidosrecoge el portal Motherboard de Vice.

De acuerdo con Abbie Harper, una de las trabajadoras despedidas, la llegada de Tessa es una medida represiva en respuesta a la decisión de ella y de sus compañeros de sindicalizarse porque se sentían abrumados y sin suficiente personal. El 17 de marzo habían obtenido el reconocimiento federal para su sindicato. «Cuatro días después de que se certificaran los resultados de nuestras elecciones, nos dijeron a los cuatro que nos iban a despedir y reemplazar por un chatbot (…) Se trata de romper sindicatos, simple y llanamente», afirmó Harper.

«No puede remplazar la interacción humana»

En una declaración a The Guardian, la directora ejecutiva de NEDA, Liz Thompson, dijo que la implementación del chatbot llegaba tras un «proceso de evaluación de tres años» y que, incluso un «programa altamente intuitivo, no puede remplazar la interacción humana».

De acuerdo con la radiodifusora NPR, Ellen Fitzsimmons-Craft, creadora de Tessa, el sistema se creó con el objetivo de buscar formas para que la tecnología pudiera ayudar a llenar el vacío en el tratamiento porque «la mayoría de los proveedores de salud mental no reciben capacitación en trastornos alimentarios». No obstante, esta profesora de psiquiatría aclara que nadie pretende que sea una solución universal. El equipo de investigación que hay detrás de su desarrollo ha publicado estudios que demuestran que Tessa puede ayudar a los usuarios, pero también podría pasar por alto las señales de alerta e incluso podría reforzar inadvertidamente un comportamiento dañino.

En este sentido, Abbie Harper recalca que un chatbot no solo no puede sustituir «la empatía y la comprensión», que «solo puede provenir de las personas», sino que, en el caso concreto de las personas con trastornos alimenticios, causará un daño irreparable.