Qué es y cómo funciona GPT-Red, el modelo secreto de OpenAI creado para encontrar fallos de seguridad antes que los hackers
Los creadores de ChatGPT han creado una IA que funciona como un hacker para sus propios sistemas. Ataca a las versiones de sus modelos para buscar fallos antes de que salgan a la luz.
Que la propia inteligencia artificial que millones de usuarios usan cada día sea segura se ha convertido en una prioridad si compañías como OpenAI, Google o Anthropic quieren que el mundo siga confiando en esta tecnología. La compañía de Sam Altman tiene un as en la manga para esto.
Se llama GPT-Red y es un modelo de inteligencia artificial creado con una sola misión: hackear a sus propios hermanos. La compañía creadora de ChatGPT lo usa como un campo de batalla o una zona de entrenamiento para atacar a sus sistemas, ver por dónde flaquean y arreglar los fallos antes de que los hackers de verdad los descubran.
Para que veas la diferencia que hace este modelo, hace unos días lanzaron GPT-5.6, la última versión de su IA más potente. Según los ingenieros, este es el más seguro que han puesto en el mercado hasta ahora.
El motivo ahora se conoce y es que ha pasado meses aguantando los ataques diarios de GPT-Red. Al pelear contra él en un entorno controlado, ha aprendido a evitar intentos de phishing y sortear todo tipo de ataques.
¿Cómo consigue un modelo de OpenAI aprender a hackear a otros desde cero?
Hasta hace nada, la misión de buscar fallos en la inteligencia artificial (lo que se conoce como red-teaming) la hacían equipos de personas que intentaban engañar a la máquina de diferentes formas. El problema es que estos sistemas son cada vez más complicados de analizar.
Además, si entran en juego los famosos agentes de IA, que son capaces de leer tus correos, mirar el calendario o tocan código por su cuenta, la libertad de actuación de esta tecnología es tan alta que hay demasiados huecos donde esconder un ataque y los humanos, por puro tiempo, ya no dan abasto para vigilarlo todo.
De ahí que se haya creado GPT-Red. Como explica Nikhil Kandpal, uno de los creadores de este modelo, el peligro crece cada día y necesitaban algo automático para no quedarse atrás. Parece que funciona tan bien que el sistema ya ha inventado formas de atacar que a ningún humano se le habían ocurrido antes.
Ahora bien, ¿cómo realmente se crea un modelo así? Para conseguir que GPT-Red se convirtiera en el mejor hacker del mundo, los ingenieros usaron un truco llamado bucle de autojuego.
Cogieron un modelo de inteligencia artificial normal, que no sabía nada de ciberataques, y lo encerraron en una especie de gimnasio a pelear contra otros modelos de la empresa. Su única meta era engañarlos, mientras que la de los otros era no dejarse estafar. Tras miles de partidas, los dos lados se volvieron expertos.
La ventaja es que este campo de batalla falso imita cosas reales que una inteligencia artificial hace en su día a día: navegar por internet, leer correos electrónicos o cambiar líneas de código. En ese entorno, GPT-Red demostró ser muy persistente. Cada vez que encontraba un pequeño fallo, lo probaba una y otra vez de formas distintas hasta dar con la mejor forma de romper el sistema de su rival.
El entrenamiento se centró sobre todo en las llamadas inyecciones de prompt. Esto es, básicamente, cuando alguien escribe un mensaje con instrucciones ocultas para obligar a la máquina a saltarse sus propias normas de seguridad.
GPT-Red se volvió tan inteligente en esto que descubrió un ataque nuevo que han llamado cadena de pensamiento falsa. Lo que hace es meter datos falsos en las notas internas que toma el otro modelo para resolver un problema, logrando que caiga en la trampa y dé una respuesta falsa como si fuera buena.
Pero esto no es todo y, para realmente ver de qué era capaz, en OpenAI lo pusieron a prueba repitiendo un examen que varios expertos humanos hicieron en 2025 sobre una versión antigua de GPT-5.
El resultado fue que GPT-Red encontró más fallos y más rápido que los profesionales humanos. En concreto, este modelo superhacker consiguió saltarse sus defensas el 90% de las veces.
Sin embargo, al probar esos mismos ataques contra el nuevo GPT-5.6, la tasa de éxito bajó a menos del 23%, demostrando que esto no solo va de encontrar fallos sino de que los modelos también aprendan a protegerse.
También lo probaron contra Vendy, una inteligencia artificial que gestiona máquinas expendedoras de refrescos, y logró hackearla para cambiar los precios de las bebidas y cancelar pedidos de clientes.
Con todo esto, y como te puedes imaginar, GPT-Red es un modelo de inteligencia artificial que va a permanecer bajo llave en OpenAI. No solo por una cuestión de que solo ellos puedan usarlo, sino por seguridad (imagínate que podría suceder si cae en malas manos).
