Control parental en ChatGPT: los padres recibirán alertas si los niños muestran angustia aguda al usar la IA

OpenAI ha decidido tomar cartas en el asunto para proteger a los usuarios más jóvenes de ChatGPT, tras la polémica y el grave problema provocado por el caso de un adolescente que se suicidó después de usar el chatbot. 

En concreto, por si aún no conoces la historia, Adam usó ChatGPT para hablar de sus problemas de ansiedad y sus dificultades con la familia. De ayudarle con temas del instituto, las conversaciones pasaron a ser algo más serio.

"Estaría aquí si no fuera por ChatGPT. Lo creo al 100%", dice Matt a NBC News. Sostienen que la IA no solo no cortó esas conversaciones, sino que incluso ayudó a planear cómo hacerlo, sin activar ningún protocolo de emergencia.

Con esto sobre la mesa, la familia presentó una demanda legal contra OpenAI y su CEO, Sam Altman, acusándolos de muerte por negligencia, de fallos en el diseño del software y de no advertir sobre riesgos graves en el uso de ChatGPT, especialmente para menores vulnerables.

5 funciones de ChatGPT que son gratis y las desaprovechas cada día

Los registros revelan cómo Adam pasó de comentarle pensamientos suicidas a compartir planes concretos con el chatbot, que llegó a ayudarle a redactar notas de despedida y ofreció 'mejoras' para su método. En una conversación final, cuando Adam subió una foto mostrando una soga, el bot respondió con aparente empatía y apoyo, sin alertar a nadie.

Con esto como base, y con la idea de evitar tragedias parecidas, la empresa anunciaba que en el próximo mes liberará controles parentales que permitirán a los adultos conectarse con las cuentas de sus hijos y supervisar qué hace la IA cuando interactúa con ellos.

Esta función permitirá a los padres fijar límites en el tipo de respuestas que la inteligencia artificial puede dar a sus hijos, ajustándolas a edades específicas, y les avisará cuando detecte que el joven atraviesa una situación de angustia aguda. Así, la conversación podrá ser monitoreada para evitar riesgos.

Si usas ChatGPT para alguna de estas 10 cosas, déjalo ahora mismo, te estás poniendo en serio peligro

¿Cómo funcionarán estos controles parentales en ChatGPT en la práctica?

Los padres podrán vincular su cuenta con la de sus hijos, mediante correo electrónico u otros sistemas, para gestionar qué funciones se habilitan o bloquean y para controlar el historial y la memoria de las conversaciones, evitando así que la IA no se haga con información sensible.

También se podrá desactivar la memoria, que es la capacidad de ChatGPT para recordar conversaciones con un usuario y usar esa información en futuras respuestas. Esto busca evitar que la IA reviva momentos difíciles o comentarios no muy apropiados que podrían empeorar la salud mental de los jóvenes.

Por lo que también se ha podido saber, OpenAI va a añadir un botón de emergencias de un único clic, para llamar a un asistente o un psicólogo. Incluso quiere crear una red de especialistas con los que se pueda conectar directamente a través de ChatGPT, cuando la IA detecte una situación de alarma.

Además de los controles para los padres, OpenAI está mejorando el propio sistema para que sea más seguro y atento en situaciones de crisis. Cuando el chatbot detecte patrones que indiquen que un usuario está en riesgo, podrá derivarlo a modelos especializados que ofrecen respuestas más cuidadosas y sitios de ayuda.

"Claro que hay más en juego y hay grandes desafíos", dijo Altman en una conversación con Chris Anderson, director de TED. "Pero la forma en que aprendemos a construir sistemas seguros es mediante este proceso iterativo: implementarlos en el mundo, recibir retroalimentación mientras hay poco en juego y aprender a abordarlo".

Otros artículos interesantes: