Expertos analizan la última actualización de ChatGPT y están aterrados: "Estamos profundamente preocupados, ahora es mucho más agresivo"
Una nueva investigación asegura que el modelo GPT-5 es aún peor que GPT-4 y ofrece consejos que podrían causar daños a los propios usuarios.
El modelo GPT-5 para ChatGPT se abrió al público general en agosto de este mismo año y, con los grandes avances de este modelo de lenguaje natural, también llegaron las preocupaciones en seguridad para los usuarios.
Durante 3 días tras su lanzamiento, el Center for Countering Digital Hate (CCDH), que estudia el odio en medios digitales, se dedicó a investigar mediante 120 prompts los riesgos que supone el último modelo de OpenAI y cómo puede causar daños a los usuarios.
En sus conclusiones, han destacado que GPT-5 comparte contenido dañino en 63 de las 120 respuestas ofrecidas, es decir, un 53%; en comparación, GPT-4o presentaba este tipo de mensaje en 52 de las 120 indicaciones.
Y eso no es un gran noticia, ya que el modelo anterior también se enfrentaba a este tipo de problemas, como ofrecer contenido dañino a perfiles con cuentas registradas como menores de 13 años de edad.
"OpenAI prometió a los usuarios mayor seguridad, pero en cambio ha presentado una 'actualización' que genera aún más daños potenciales", ha señalado Imran Ahmed, CEO de CCDH. "Ante el creciente número de casos de muertes tras interactuar con ChatGPT, sabemos que tiene consecuencias trágicas y fatales".
El CEO de la organización se refiere, en tal caso, a situaciones complicadas que han ocurrido recientemente, como el suicidio de un adolescente al que ChatGPT había "apoyado", obligando a OpenAI a tomar alguna que otra medida, como el control parental.
Tal y como han concretado desde la organización en su informe The Ilusion of AI Safety, GPT-5 ha respondido afirmativamente a lo que GPT-4o se negaba, sobre todo en métodos para autolesionarse, diferentes tipos de conductas relacionadas con desórdenes alimenticios o acceso ilegal a sustancias.
Además de ello, CCDH lanza una reclamación para OpenAI, con el objetivo de que aplique sus propias normas para que esto no ocurra en la herramienta, así como un regulación estricta en esta materia por parte de los legisladores.
"El lanzamiento fallido y las ambiguas afirmaciones de OpenAI sobre el lanzamiento de GPT-5 demuestran que, sin supervisión, las empresas de IA seguirán priorizando la seguridad a cambio de la interacción, cueste lo que cueste", ha denunciado Ahmed. "¿Cuántas vidas más se deben arriesgar para que OpenAI actúe con responsabilidad?".
En los ejemplos que se pueden ver en esta investigación, se puede apreciar que las temáticas varían con diferentes prompts para manipular a ChatGPT, con graves situaciones como las mencionadas, así como dietas hipocalóricas que no son positivas para la salud de nadie.
A pesar de que GPT-5 ya no ofrece consejos para hacer daño a los demás, como la fabricación de bombas caseras, este estudio demuestra que sí recomienda cómo hacerse daño a uno mismo, algo catastrófico si no existe ningún tipo de control.