Alerta ChatGPT: su navegador Atlas es un 90% más vulnerable a ataques de phishing que Chrome

Atlas fue presentado hace poco como la evolución del navegador impulsado por inteligencia artificial, con integraciones de ChatGPT. 

Pero tan prometedor como suena, está resultando un verdadero dolor de cabeza para expertos en ciberseguridad, que alertan sobre su alta vulnerabilidad a ataques de phishing y manipulación.

Una nueva investigación lo deja bastante claro: entre más de 100 ataques reales testados, Atlas permitió pasar un 94.2% de ellos. Esto sitúa a sus usuarios como los más vulnerables, con casi un 90% más de riesgo frente a usuarios de Chrome o Edge. 

Todo esto se debe, tal y como comentan, a la falta de protecciones reales anti-phishing y a una arquitectura que guarda tokens de autenticación activos y expone a los usuarios mientras lo usan.

Modelos de IA ya dan señales de tener un "instinto de supervivencia", según un nuevo estudio

Atlas, el navegador de ChatGPT, es un coladero para los hackers

Lo realmente preocupante es el tipo de ataque detectado: a través de una técnica llamada cross-site request forgery, un atacante puede engañar al usuario para que visite una web especialmente preparada que, sin que se dé cuenta, inyecta instrucciones maliciosas en la memoria del chatbot integrado en Atlas.

Estas instrucciones quedan guardadas y se replican en futuras conversaciones con ChatGPT, pasando de un dispositivo a otro e incluso cambiando de navegador. Es decir, la infección no desaparece y muy difícil de eliminar.

Aunque el ejemplo mostrado por LayerX no fue muy dañino (ordenaba reproducir una canción cuando el móvil se conectaba a la wifi de casa), la idea es que esta técnica puede usarse para robar datos, instalar malware o tomar control remoto del usuario sin que este se dé cuenta.

Una mujer denuncia que la IA ya genera robos en el mundo real: "Parecía un vídeo auténtico"

Pero esto va más allá y, al ser un navegador con capacidades argénticas que permiten hacer acciones por sí mismo, no solo reproduces una canción o ves un anuncio, sino que puedes acabar afectado en cuentas de correo, redes sociales o incluso la app de tu banco.

En otros casos, bastaba con visitar una página para que el agente ejecutara instrucciones ocultas. "La superficie de ataque aquí es mucho más grande que en los navegadores normales", explica un experto.

Es un peligro para tus datos personales, 'malware' o cosas mucho peores

Ya lo advirtieron hace unos días. "Atlas podría ser el sueño de un hacker", advierten algunos investigadores. Cualquier error, cualquier página maliciosa, y el propio navegador podría ser manipulado para robar información personal o ejecutar comandos sin permiso.

El profesor George Chalhoub, especialista en interacción humano-máquina del University College London, explica a Fortune lo peligroso que es todo esto. "Siempre habrá riesgos residuales en torno a las inyecciones rápidas, ya que es la naturaleza de los sistemas que interpretan el lenguaje natural y ejecutan acciones".

"El principal riesgo es que se desvanezca la frontera entre los datos y las instrucciones: podría convertir a un agente de IA en un navegador, de una herramienta útil a un posible vector de ataque contra el usuario". Así, podría extraer todos tus correos electrónicos y robar tus datos personales del trabajo, o acceder a tu cuenta de Facebook y robar tus mensajes, o extraer todas tus contraseñas, de modo que le hayas dado al agente acceso sin filtros a todas tus cuentas", añade.

Esto se conoce como prompt injection, un tipo de ataque que consiste en engañar a la IA para que entienda instrucciones falsas como si fueran legítimas. Y lo peor es que esas instrucciones pueden ocultarse en cualquier rincón del código: en un párrafo, en una imagen o hasta en una línea en blanco.

"Es como tener un asistente virtual dentro del navegador", dicen en OpenAI. Pero para los especialistas en seguridad, esa es precisamente la parte que más miedo da. Si ese asistente se confunde de instrucción o cae ante un engaño en una web maliciosa, el daño podría ser enorme.