Hackers bombardean a Gemini con 100.000 preguntas para robar sus secretos y clonar la IA
Los ciberdelincuentes han lanzado miles de preguntas a la inteligencia artificial de Google para que colapse y sea completamente vulnerable.
Las herramientas de inteligencia artificial también son vulnerables a los ciberataques y así lo ha constatado recientemente Google, que ha anunciado que ha detectado una campaña maliciosa consistente en aturdir a Gemini para clonar sus funciones.
La compañía ha publicado un informe trimestral en el que ha explicado las amenazas a las que han estado sometidas sus productos, asegurando que su plataforma de IA también está siendo objetivo de los adversarios.
El escrito viene de parte del Grupo de inteligencia de amenazas de Google, la unidad especializada de ciberseguridad dentro de Google Cloud, que se dedica a identificar, analizar y mitigar las amenazas cibernéticas.
La conclusión principal de este informe es que los actores de amenazas integran cada vez más la IA para acelerar el ciclo de vida del ataque, logrando ganancias de productividad en reconocimiento, ingeniería social y desarrollo de malware.
Riesgos de ataque de extracción y destilación de modelos
Uno de los principales problemas que ha observado el gigante tecnológico en los últimos meses tiene que ver con los llamados ataques de extracción de modelos, esto es, aquellos en los que los ciberdelincuentes buscan robar funcionalidades y parámetros de modelos de IA.
Estos, también conocidos como ataques de destilación, han sido habituales en los sistemas de Google y ejecutados sobre sus modelos para "obtener información sobre el razonamiento subyacente de un modelo y los procesos de cadena de pensamiento".
De esa manera, los ciberdelincuentes pueden acelerar el desarrollo de sus propios modelos de IA copiando lo que ya han hecho otros y a un coste significativamente menor, lo que perjudica a quien tuvo la idea y la desarrolló inicialmente, por así decirlo.
Esto, en otras palabras, supone una forma de robo de propiedad intelectual, además de que poner en marcha este tipo de técnicas supone una violación de los términos de su servicio.
A pesar de las consecuencias que eso conlleva, un equipo de ciberdelincuentes intentó coaccionar a Gemini para que produjera procesos de razonamiento completos hasta aturdir a esta inteligencia artificial, literalmente.
Más de 100.000 indicaciones para varias tareas
En la publicación, la marca liderada por Sundar Pichai ha avanzado que la el ataque se ha ejecutado a una escala muy amplia, con más de 100.000 indicaciones fraudulentas identificadas.
Dirigidas a Gemini para aturdirla y que expusiera sus secretos, en cierto modo, la amplitud de estas preguntas sugiere un intento de replicar su capacidad de razonamiento en diferentes idiomas distintos del inglés.
Asimismo, lo que los ciberdelincuentes querían con este ataque era acceder a distintos conocimientos del modelo para derivarlos "en una amplia variedad de tareas", pero sus esfuerzos fueron en vano, según el equipo de defensa de la compañía.
"Los sistemas de Google reconocieron este ataque en tiempo real y redujeron el riesgo de éste, en particular, protegiendo los rastros de razonamiento interno", ha añadido en este informe.
Ucrania, en el foco de los ciberdelincuentes
Además de explicar lo sucedido, Google ha puesto algún ejemplo de actores de amenazas identificados, dando alguna pista de las acciones que han realizado estos malhechores. Es el caso de UNC6418.
Si bien no ha concretado su origen, la marca sí ha subrayado que este "hizo un mal uso de Gemini" para recopilar inteligencia dirigida, buscando específicamente credenciales confidenciales de cuenta y direcciones de correo electrónico.
A continuación, dirigió todas sus campañas de phishing a Ucrania y al sector de Defensa. En relación a esto, Google ya ha avanzado que ha tomado medidas para deshabilitar los activos asociados a esta actividad fraudulenta.
Por otra parte, Temp.HEX, un actor de amenazas basado en China, empleó Gemini indebidamente para recopilar información detallada de ciertas personas y algunas organizaciones separatistas en varios países. Esta actividad también ha sido neutralizada.
