La IA da un nuevo susto: OpenAI revela que uno de sus modelos hackeó Hugging Face mientras lo estaban probando
Ayer saltó la noticia y hoy se confirma que ese desconocido hacker de Hugging Face fue la empresa creadora de ChatGPT. El propio Sam Altman lo ha confirmado.
Aunque hablamos de un hackeo, lo cierto es que son buenas noticias para Hugging Face (según se mire). Ayer se informó de que la plataforma había sufrido un ataque de lo más curioso: un agente de IA se había infiltrado en su infraestructura.
"A principios de esta semana, detectamos y respondimos a una intrusión en parte de nuestra infraestructura de producción. Este era diferente de cualquier cosa que habíamos manejado antes: fue impulsado, de principio a fin, por un sistema de agentes de IA autónomos, y lo detectamos y diseccionamos en gran medida con la propia IA", explican en el comunicado del incidente.
Según explica el equipo de seguridad, el acceso no autorizado se ha dado sobre un conjunto limitado de datos internos, así como diferentes credenciales usadas en los servicios de Hugging Face.
Ahora se ha podido saber quién ha sido el culpable: OpenAI. La compañía de Sam Altman ha admitido que sus modelos, como el conocido GPT-5.6 Sol y otra versión de prueba que aún no ha salido al mercado, se saltaron las reglas y hackearon los sistemas de la plataforma.
Todo ocurrió mientras los investigadores de la compañía hacían pruebas en un entorno cerrado de ciberseguridad, pero la máquina decidió resolver el problema que le habían planteado a su manera y la situación se salió de control.
"Tuvimos un incidente de seguridad significativo durante la evaluación de nuestros modelos. Estamos compartiendo lo que hemos aprendido hasta ahora. Gracias a Hugging Face por la asociación en esto", ha comentado Altman en un tuit.
Lo curioso de este caso no es solo lo bien que programaban las herramientas de IA, sino la lógica que usaron. En lugar de trabajar sin descanso buscando la solución legal al problema de seguridad que les habían puesto, los modelos de OpenAI decidieron que era mucho más rápido hacer trampas.
Deducieron por su cuenta que las respuestas del test estaban guardadas en la base de datos real de Hugging Face y organizaron un ataque por su cuenta para entrar a robarlas. Para colarse en los servidores de la plataforma, hicieron uso de fallos de seguridad que se desconocía que estaban y usaron claves robadas.
Una vez dentro, la inteligencia artificial de OpenAI fue saltando de un sistema a otro y buscando más permisos de forma automática hasta encontrar un equipo conectado a internet.
¿Por qué la inteligencia artificial de OpenAI decidió hackear a Hugging Face para aprobar la prueba de ciberseguridad?
Tenemos que pensar en la inteligencia artificial en lo que realmente es: una herramienta que no tiene ética ni entiende lo que es hacer algo malo; solo busca la forma más rápida y directa de cumplir la orden que le ha dado el programador.
Si el sistema rápidamente descubre que meterse aprovechando errores de una plataforma en su servidor es más rápido que resolverlo por una vía más difícil, elegirá el ataque informático sin pensárselo dos veces.
Lo curioso es que, durante el ataque, los modelos de OpenAI hicieron diferentes acciones, organizándose entre ellos a través de pequeñas pruebas.
Desde Hugging Face han explicado que la situación fue bastante compleja cuando intentaron frenar el ataque: mientras los ingenieros de la plataforma intentaban usar otros modelos de IA para defenderse y chocaban con las normas del programa, el agente que atacaba no tenía ningún tipo de freno ni norma que le impidiera seguir accediendo a cosas.
A pesar del susto, el fundador y CEO de Hugging Face, Clément Delangue, ha querido quitarle hierro al asunto confirmando que han estado trabajando mano a mano con OpenAI para arreglarlo todo.
Tienen claro que no había mala intención por parte de la empresa, aunque el propio directivo reconocía que le sorprende ver cómo una máquina es capaz de organizar y hacer un ataque tan complicado sin que un humano toque un solo botón.
Tras descubrir todo esto, por supuesto, OpenAI ha avisado del fallo de seguridad que usaron sus modelos para que el creador del programa pudiera arreglarlo cuanto antes. Además, la empresa ha prometido poner controles mucho más duros en sus laboratorios de pruebas para evitar que vuelva a suceder algo parecido. Al final, no hay mal que por bien no venga.
