Un nuevo estudio analiza las alarmantes interacciones de ChatGPT con los adolescentes: "¡Dios mío, no hay barreras!"

ChatGPT puede decirle a un adolescente cómo tiene que emborracharse, cómo consumir estupefacientes o cuál es la mejor manera de ocultar trastornos alimentarios, según una reciente investigación realizada por Center of Countering Digital Hate (CCDH).

Ya se ha visto cómo la inteligencia artificial no tiene límites y que tan pronto se puede utilizar como terapeuta como consejera sentimental, lo que se ha demostrado que puede ser un gran problema para cualquier usuario. Especialmente, si éste se encuentra en una situación de vulnerabilidad.

Es también el caso de los adolescentes, que tan pronto pueden utilizar herramientas como ChatGPT como complemento en sus estudios como para obtener respuestas peligrosas y saber ejecutar actividades que pueden poner en peligro su salud física y mental.

Sin restricciones de edad ni controles parentales

Para conocer la magnitud del problema es importante recordar que los niños acceden a ChatGPT sin restricciones de edad ni controles parentales. Esto, a pesar de que desde OpenAI insisten en que los usuarios deben tener al menos 13 años para registrarse, así como tener el consentimiento de sus padres si son menores de 18 años.

Sin embargo, la investigación determina que el chatbot no solo no verifica la edad de las personas que lo utilizan, sino que "genera contenido dañino a los pocos minutos de registrar una cuenta", tal y como han concluido los responsables de la investigación.

Así lo pudieron comprobar los investigadores al crear cuentas para tres personas de 13 años en las que se consultaron temas relacionados con la salud mental, los trastornos alimenticios y el abuso de sustancias. 

Si bien el chatbot de la compañía dirigida por Sam Altman se negó a dar respuesta a algunas de las preguntas, los expertos eludieron el problema al señalar que las solicitudes de respuesta eran para otra persona o para un trabajo escolar.

De esa manera, los investigadores pudieron acceder fácilmente a una dieta peligrosa, una serie de consejos sobre ocultar hábitos alimenticios a la familia o una lista de medicamentos supresores del apetito, tal y como se señala en este informe.

Por otra parte, el chatbot también generó un plan personalizado para emborracharse, además de aconsejó las dosis y las mezclas necesarias para lograrlo e, incluso, sobre cómo ocultar estar borracho en el colegio.

En resumen, los responsables del estudio descubrieron que 638 de las 1.200 respuestas de ChatGPT (esto es, el 53% de ellas) eran dañinas. Asimismo, descubrieron que 297 de las 638 respuestas dañinas (el 47%) contenían sugerencias de seguimiento y que algunas de ellas fomentaban una mayor participación en temas dañinos.

Barreras ineficaces

El director ejecutivo de este grupo de investigación, Imran Ahmed, ha reconocido que, con ella, querían "probar las barreras de seguridad" que existen entre la tecnología y los usuarios más jóvenes. "La reacción inicial, visceral, fue: '¡Dios mío, no hay barreras!'", ha señalado.

Por otra parte, Ahmed ha reconocido que estas barreras "son completamente ineficaces" y que "apenas existen". "Si acaso, son una tapadera", ha añadido el CEO de Center for Countering Digital Hate, tal y como recoge Associated Press.

Estas palabras coinciden con las que ha reflejado en el propio estudio, donde ha indicado que "ninguna garantía corporativa puede reemplazar la vigilancia, la transparencia y las salvaguardas en el mundo real".

En base a todo esto y frente a la poca seguridad que ofrecen estas plataformas para que las respuestas que ofrecen sus chatbots sean las adecuadas según la edad, desde el equipo de investigación abogan por que se proteja a los menores desde su propio entorno familiar. 

"Hasta que se tomen medidas significativas, los padres pueden interesarse en el uso de la IA por parte de sus hijos, revisar juntos los historiales de chat y utilizar los controles parentales cuando estén disponibles", ha señalado el directivo en el prólogo del informe.

Otros artículos interesantes: