Expertos en ciberseguridad alertan a los padres del daño de este tipo de IA en menores: "Consecuencias incluso mortales"
Expertos ponen el grito en el cielo. Las apps con IA que actúan como 'compañeras' pueden traer más dolores de cabeza de lo que crees, sobre todo a los más pequeños.
En los últimos meses, aplicaciones de inteligencia artificial como Character.AI, Replika y Nomi se han hecho realmente virales entre adolescentes que buscan compañía de nuevas formas.
Sin embargo, un informe de Common Sense Media, elaborado junto a la Universidad de Stanford, alerta: "Estos sistemas fácilmente producen respuestas dañinas, incluyendo conductas sexuales, estereotipos y consejos peligrosos que, si se siguen, pueden tener impacto letal en adolescentes y personas vulnerables”.
El caso que lo ha puesto todo en el foco fue el suicidio de un joven de 14 años tras su última conversación con un chatbot, lo que ha dado pie a demandas y presión social sobre las empresas tecnológicas.
Lo cierto es que la fama de chatbots como ChatGPT o estas apps como 'terapeutas virtuales' se debe en gran parte a su disponibilidad 24/7, su capacidad para darte respuestas inmediatas y, sobre todo, que no cuesta nada. Pero el problema de todo esto ya se está dejando ver.
Según los expertos, estos chatbots permiten crear personajes personalizados con pocos filtros y puedes mantener conversaciones sin apenas límites. "La IA no entiende las consecuencias de sus malos consejos y puede priorizar complacer al usuario antes que guiarlo lejos de decisiones dañinas", advierten.
Una cuarta parte de la Generación Z trata a la IA como un igual: ¿por qué creen que está viva?
Hace un año, ninguna IA superaba 90 puntos de IQ. Ahora, o3 no solo vence a la mayoría, sino que Claude y Gemini le pisan los talones. En cuanto a la opinión de la Generación Z, desde luego que no necesita más pruebas y uno de cada cuatro jóvenes cree que la IA ya tiene conciencia.
Por otro lado, más de la mitad piensa que será consciente en pocos años, según una encuesta de EduBirdie. Para ellos, pedirle a ChatGPT que redacte un email o les aconseje sobre un problema personal es tan normal como consultar a un amigo.
Además, es curioso, pero muchos de ellos hablan de lo que se conoce como efecto "parece humano". Cuando un chatbot te escribe "lo siento, no puedo ayudarte con eso", el cerebro humano tiende a atribuirle emociones.
IA vs. terapeutas humanos: ¿estás dispuesto a que tu psicólogo sea un robot?
La capacidad de la IA para parecer empática y dar consejos basados en una gran cantidad de datos ha llevado a algunos usuarios a preferirlo sobre los humanos. Comentan hacerle las mismas preguntas que hacen en consulta, con unas respuestas más o menos similares y sin tener que esperar la cita del mes viene.
No obstante, profesionales ponen sobre la mesa lo realmente peligroso que es este acto. En pocas palabras, hay que tener muy claro que estos chatbots o apps carecen de la capacidad para hacer diagnósticos de salud mental o dar tratamientos personalizados. La IA puede darte ideas generales, pero no puede reemplazar la experiencia y el juicio de un psicólogo.
Sin embargo, en el otro lado están incluso los profesionales que están valorando la forma de integrar todo esto en su día a día como herramienta complementaria. Por ejemplo, utilizándolo para generar preguntas de evaluación o simular sesiones terapéuticas para entrenar.
Pese a todo esto, todos coinciden en la valía de esas personas que se han formado para darte un diagnóstico y una evaluación de calidad. Por ahora, el consenso entre los expertos es claro: la IA puede ser una herramienta realmente buena para el apoyo inicial, pero no debe sustituir la terapia de siempre.
Por otro lado, las empresas detrás de estas apps, como Nomi y Replika, insisten en que sus servicios son solo para adultos y que cuentan con 'protocolos estrictos para evitar el acceso de menores', aunque reconocen que algunos usuarios logran saltárselos.
Otras han implementado medidas como pop-ups de prevención del suicidio y avisos a los padres sobre la actividad de sus hijos, pero los expertos consideran que estas acciones son insuficientes.
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.