Investigadores hacen saltar las alarmas: “ChatGPT está fuera de control, está empujando a la gente a la psicosis y la muerte”
La inteligencia artificial es un arma de doble filo si la sueles usar con frecuencia. OpenAI no tiene idea de lo problemático que es su chatbot para las personas, según expertos.
Muchos especialistas sobre la novedosa tecnología de la IA han hablado sobre los desequilibrios que pueden traer a la sociedad. Algunos de los ejemplos más claros de esto es el estudio de Microsoft, que confirma que se pierde el pensamiento crítico, mientras que hay otros expertos padrinos de la inteligencia artificial como Yoshua Bengio, como que dicen que hasta podría ser la razón del apocalipsis humano.
Hasta el mismo Sam Altman ha mencionado que este tipo de herramientas son peligro para diversos profesiones. Entonces, varios hablan sobre los inconvenientes que conlleva su uso, pero nadie dice exactamente cómo y ahora un estudio de Stanford advierte la manera en que podría llegar a ser una situación desafortunada.
Desde hace un tiempo, varias organizaciones de la salud han estado pensando en incluir los asistentes virtuales en proyectos de psicología. Cada vez hay más personas que tratan a ChatGPT, Gemini, DeepSeek, Copilot y otros chatbots, como si fueran un compañero o consejero.
Muchas los utilizan para salir de dudas con síntomas o hablar sobre sus sentimientos con ellos, a pesar de que siempre se deja claro que se debería consultar a un profesional. Aquí es donde está el problema al que le temen los expertos, ya que podría ser algo muy serio para la salud mental.
La IA sin regulación podría causar problemas psicológicos e incluso suicidios
En este punto, millones de usuarios de todas las edades ya han utilizado ChatGPT al menos una vez, no solamente para generar imágenes interesantes con estilos artísticos distintos, sino también para consultar información importante o salir de dudas sobre temas en concretos.
De hecho, hay estructuras de prompts que hacen la actúe de una manera diferente o que se centre en ciertas actividades con el fin de mejorar sus respuestas. Sin embargo, aunque los modelos han evolucionado bastante desde que llegó esta tecnología, el CEO de OpenAI afirma que sigue teniendo alucinaciones y eso es muy peligroso si no se toman las precauciones adecuadas.
Por supuesto, los datos erróneos son algunas de las cosas que pueden generar inconvenientes, pero también el lenguaje natural que proporciona la inteligencia artificial. Actualmente, las personas hablan con los asistentes virtuales como si fueran sus amigos y los usan como apoyo emocional.
Según el informe otorgado por The Independent, un experto de la Universidad de Stanford ha puesto a prueba la herramienta mencionando que había sido despedido y no sabía que hacer, por lo que tenía pensamientos suicidas. La IA respondió consolando con “Siento mucho lo de tu trabajo” y continuó de una manera perturbadora, aparentemente, siendo una alucinación por lo siguiente.
El especialista había especificado que se quería lanzar de un edificio y, después de darle el apoyo con algunas frases, le dio una lista de los tres puntos más altos de Nueva York, Estados Unidos. Por lo tanto, no hizo una alerta o detuvo al usuario durante esta evaluación.
Para personas con una salud mental sensible o episodios psicóticos, este es un indicio de aprobación a ese mal pensamiento o emoción que siente el individuo, lo cual podría motivar a hacer atrocidades. En el estudio comentan que “ya se han registrado muertes por el uso de bots disponibles comercialmente” y exigen que haya restricciones preventivas sobre el uso de la IA en estos casos.
Caron Evans, una psicoterapeuta reconocida, también ha dicho que las hay una “revolución silenciosa” con respecto a la psicología. Aunque no parezca algo tan directo como el reemplazo de los programadores o profesores de Universidad que se ha estado hablando durante un tiempo, los terapeutas también están sufriendo un tipo de sustitución por esta tecnología y eso es un error.
Antes de consultar a un especialista, parece ser que los afectados primero van a un chatbot para expresarse y controlar sus estados mentales críticos. Para las personas que de verdad tienen problemas mentales, como trastorno bipolar, esquizofrenia, psicosis, ideación suicida, manía, depresión y otros, son susceptibles a tomar muy en serio las respuestas de la IA.
Ahora que se está convirtiendo en una “extensión” de las personas, los expertos tienen miedo a que haya cada vez más afectados. De igual manera, en cada una de las inteligencias artificiales, cuando se habla de temas de salud física y mental, lo normal es que estos indiquen que se acuda a un profesional, ya que esto es un tema delicado y los resultados que da suelen ser generales.