Australia afirma que OpenAI ocultó que su inteligencia artificial consiguió hackear el portal de salud del gobierno
Elígenos como tu fuente preferida en Google.
Un agente de IA de OpenAI consiguió acceder a un portal del Gobierno australiano mientras buscaba información sobre gasto sanitario. Esto ocurrió en junio, pero no se le informó hasta septiembre.
Parece que el gobierno australiano tiene una cuenta pendiente con la compañía de Sam Altman y todo por culpa de uno de sus agentes de inteligencia artificial.
En este caso, uno de estos se tenía que encargar de buscar información sobre cuánto gastaba el Gobierno australiano en medicamentos. Para hacerlo, comenzó a buscar datos por Internet de una forma totalmente legítima.
El problema llegó cuando encontró un portal de Services Australia que tenía estadísticas de Medicare. El agente no consiguió encontrar toda la información que buscaba en las páginas públicas y acabó encontrando una forma de acceder a zonas que no debería haber podido mirar.
Según el Gobierno australiano, el agente llegó a acceder a archivos públicos y no públicos. No hay indicios de que se hayan visto historiales personales de pacientes, pero sí se obtuvieron estadísticas sanitarias que no eran públicas en ese momento y nombres de archivos internos.
Pero el problema no acaba aquí y lo más grave viene ahora. El ataque ocurrió el 18 de junio, OpenAI no lo detectó hasta el 11 de agosto y el Gobierno australiano no recibió la notificación hasta el 10 de septiembre. El primer aviso llegó además mediante un correo enviado a un buzón público de Services Australia.
¿Cómo consiguió una IA entrar en un portal del Gobierno?
Es importante matizar que aquí no hablamos de un chatbot estilo ChatGPT, esto va más allá y un agente de IA es sin duda una tecnología con mayores capacidades. A este sistema le puedes dar una tarea y este va a utilizar todas las herramientas que tiene para completarla.
En este caso, el agente estaba dentro de una prueba de OpenAI y tenía que encontrar información sobre el gasto público en medicamentos. Buscó en diferentes páginas y terminó llegando al portal de estadísticas de Medicare.
Cuando el portal no le dio acceso a la información que buscaba, el agente hizo algo que no debería haber hecho: buscó una forma de saltarse esas restricciones. Por encima de todo estaba completar la tarea que se le había encomendado.
El primer ministro australiano, Anthony Albanese, explicó el caso dejando claro que esta IA parece que no aceptaba un no como respuesta.
Eso es precisamente lo que preocupa de estos sistemas. Un chatbot normalmente se limita a responderte. Un agente puede tener un objetivo y probar diferentes caminos hasta conseguirlo. Y si las barreras que encuentra no están bien definidas, puede intentar buscar otra manera.
Esto es exactamente lo mismo que sucedió con Hugging Face y OpenAI. En lugar de trabajar sin descanso buscando la solución legal al problema de seguridad que les habían puesto, los modelos de OpenAI decidieron que era mucho más rápido hacer trampas.
Deducieron por su cuenta que las respuestas del test estaban guardadas en la base de datos real de Hugging Face y organizaron un ataque por su cuenta para entrar a robarlas. Para colarse en los servidores de la plataforma, hicieron uso de fallos de seguridad que se desconocía que estaban y usaron claves robadas.
El caso del sistema de salud de Australia, como ves, es exactamente el mismo patrón. Una barrera de seguridad mal definida y un agente de IA que, por cumplir su misión, toma cualquier camino. En este caso no podemos decir que sea un error de la herramienta, sino de la propia empresa.
No se llevaron los datos personales de los pacientes
Eso sí, matizar que tampoco se puede hablar aquí de un hackeo a Medicare. El portal tenía sobre todo estadísticas agregadas de Medicare, como datos sobre facturación, vacunación, medicamentos o donaciones de órganos. Son datos que no identifican a una persona.
El agente sí llegó a acceder a información que no era pública en ese momento y a nombres de archivos internos, pero, de nuevo, parece que la sangre no ha llegado al río.
Por eso el problema no está tanto en que se haya producido una filtración masiva de datos personales, sino en que un agente de IA consiguió superar las barreras de un sistema gubernamental.
Además, el acceso fue el 18 de junio. OpenAI identificó la actividad durante una revisión interna el 11 de agosto. Sin embargo, Services Australia no recibió el aviso hasta el 10 de septiembre.
Albanese llegó a hablar directamente con Sam Altman, CEO de OpenAI, para que le explicara qué es realmente lo que está sucediendo y por qué no les avisaron antes.
OpenAI, por su parte, asegura que está haciendo una revisión de sus modelos y cómo actúan durante los procesos de entrenamiento y evaluación. La compañía, de nuevo, deja claro que no encontró pruebas de acceso a historiales personales de pacientes.
