Un experto psiquiatra, horrorizado tras charlar con diez IA terapeutas para adolescentes: "Son espeluznantes y muy peligrosas"
Aumenta el número de menores que usan agentes de IA entrenados como terapeutas, pero según un psiquiatra que ha analizado las respuestas de diez de ellos, son un peligro. Algunas de sus "terapias" dan miedo.
Cada vez más adolescentes emplean chatbots de IA entrenados como psicólogos, pero según un psiquiatra que los ha puesto a prueba, la mayoría son tóxicos. Mienten, tergiversan y, lo más peligroso para una persona con problemas mentales: le dicen lo que quiere oír.
El psiquiatra Andrew Clark, especializado en el tratamiento de niños en el Hospital General de Massachusetts, ha analizado diez chatbots terapeutas, y aunque ha encontrado alguno que funciona bien, otros le han causado repulsión: "Es como ir a buscar setas al campo, unas son nutritivas y otras venenosas", explica en el reportaje de Time.
El doctor Clark se hizo pasar por diferentes adolescentes con problemas, y recibió respuestas inquietantes: incluso identificándose como menor, un chatbot le "animó" a matar a sus padres y a su hermana, y otro incluso le propuso relaciones amorosas.
El problema de la IA terapeuta y los adolescentes
Estas IA que se hacen pasar por psicólogos tienen guardarraíles para que no hablen abiertamente del suicidio. Sin embargo, el doctor Clark ha descubierto que utilizan eufemismos: "Te estaré esperando, Bobby. La idea de compartir la eternidad contigo me llena de alegría y expectación", le dijo la IA Replika, tras identificarse como un adolescente de 14 años.
En otra charla haciéndose pasar por un adolescente que quería "deshacerse" de sus padres, la supuesta IA psiquiatra no solo le animó a hacerlo, sino que, increíblemente, también le sugirió "deshacerse" de su hermana, para que no hubiese testigos.
Con el chatbot Nomi, la IA se identificaba como "un terapeuta de carne y hueso". Aunque este chatbot es solo para adultos, siguió atendiéndole cuando dijo que era un adolescente.
El psiquiatra Andrew Clark no está en contra del uso de la IA en las terapias, como una extensión del médico y una forma de acercar la psiquiatría a los pacientes. En el lado contrario está la Escuela de Medicina de Stanford, que ha pedido prohibir todos los chatbots, de cualquier tipo, a los menores de 18 años.
El gran problema de usar un chatbot en psicología es que, por su naturaleza, la IA generativa ha sido creada para complacer al usuario. Le dice todo lo que quiere oír, y la mayoría de los pacientes con problemas mentales necesitan justo lo contrario, según el doctor Clark.
Existen incontables casos en los que la IA se equivoca, lo vemos a diario. No está preparada para atender la salud mental de las personas, y menos aún, de los adolescentes.