Hackers usaron una invitación de calendario infectada para manipular Gemini y controlar un hogar inteligente
Investigadores han logrado controlar dispositivos inteligentes en un hogar conectado mediante una invitación de calendario infectada y el uso del modelo de IA Gemini de Google.
Si bien la inteligencia artificial y los dispositivos inteligentes en nuestro hogar pueden ayudarnos en distintas tareas, también en ciertos casos pueden volverse directamente en nuestra contra.
Y es que, por primera vez, un ataque a una inteligencia artificial generativa ha provocado consecuencias físicas en el mundo real, en un experimento realizado por un grupo de investigadores de seguridad que logró usar una invitación de Google Calendar infectada para manipular el modelo de inteligencia artificial Gemini.
El experimento, conocido como Invitation Is All You Need, es parte de un proyecto compuesto por 14 ataques diseñados para probar vulnerabilidades de prompt en modelos de inteligencia artificial.
En este caso concreto, los investigadores programaron instrucciones ocultas dentro de un evento del calendario, y después, al pedir a Gemini que resumiera sus eventos de la semana, logró ejecutar las órdenes incrustadas, encendiendo distintos dispositivos en un hogar conectado.
“Creemos que este es el primer caso documentado en el que una IA hackeada provoca efectos físicos reales”, aseguraron los investigadores al medio Wired.
Google ha confirmado que los hallazgos de este experimento impulsaron el desarrollo e implementación acelerada de nuevas defensas contra este tipo de ataques: “La investigación compartida nos ha permitido fortalecer nuestras medidas de seguridad para que ataques como este sean más difíciles de ejecutar”, dicen.
Y claro, este tipo de ataques, aunque haya sido un experimento, son solo una prueba de los peligros potenciales que pueden derivarse del uso extendido de sistemas de inteligencia artificial conectados a dispositivos del mundo físico.