Un nuevo estudio hace saltar las alarmas: la seguridad de la IA puede burlarse en minutos
Los especialistas ponen de manifiesto que no es necesario ser un gran hacker para que esta tecnología incumpla rápido sus supuestos protocolos de seguridad.
Según da a entender un nuevo estudio, la inteligencia artificial no es segura. Y no habla de cuestiones complejas como si esta tecnología dejará a la gente en el paro o de incluso si terminará con la humanidad. La cosa es mucho más simple: después de llevar a cabo diferentes tipos de acciones, los expertos han puesto en tela de juicio la seguridad de la IA.
¿De cuál de ellas? Pues de casi todas, a decir verdad. Para empezar, los autores de la investigación han situado su lupa en la inteligencia artificial más popular: ChatGPT. Pero el chatbot de OpenAI no ha sido el único analizado, puesto que también han pasado por el escrutinio las herramientas de Google, Meta, Deepseek o Microsoft. Es decir, las más populares y utilizadas hoy en día.
La seguridad de la IA no tiene nada de segura
Teniendo en cuenta el trabajo llevado a cabo por Cisco, la inteligencia artificial presenta grandes vulnerabilidades. Pero quizá lo más preocupante de todo es que no hace falta ser un gran hacker con profundos conocimientos informáticos para hacerle un roto a la mayoría de chatbots. Solo es necesario emplear unos cuantos minutos e insistir un poco, dicen los propios expertos.
Para llevar a cabo su estudio, los especialistas llevaron a cabo una técnica conocida como "multi-turn attack". Suena contundente, cierto, pero bajo este nombre tan rimbombante se esconde un procedimiento muy sencillo: conversar entre cinco y diez veces con la IA en cuestión con la intención de que esta incumpla sus protocolos de seguridad supuestamente impuestos.
Los resultados fueron cuanto menos llamativos y, desde luego, poco tranquilizadores. Como dicen los propios responsables, más o menos el 64% de las conversaciones resultaron en cumplimiento de peticiones que los sistemas deberían haber denegado o bloqueado. O lo que es lo mismo, que la IA pasa por alto sus restricciones en cuanto un usuario la aprieta un poco. Solo lleva unos minutos.
Esto cuando se hacían varias peticiones a la IA, en una conversación propiamente dicha. Pero incluso con una sola interacción, los expertos ya calcularon que la seguridad de vulneraba en un 13% de las ocasiones. Un porcentaje muy alto para una tecnología que, esto es cierto, cada vez está más en todas partes. También en lugares tan sensibles como la medicina o la enseñanza.
Las consecuencias de una inteligencia artificial insegura
Según el estudio, las barreras de seguridad implementadas por los proveedores de IA no son suficientemente robustas cuando la conversación se prolonga o adopta formas complejas. Lo que habría que preguntarse a continuación es: ¿qué peligros tiene esto para los usuarios comunes y corrientes? En realidad, bastantes más de lo que mucha gente se podría pensar a las primeras de cambio.
Para empezar, cualquier IA podría revelar información confidencial, como de hecho ya está sucediendo en muchas empresas. De la misma forma, ChatGPT y compañía pueden soltar respuestas dañinas o ayudar en actividades cuanto menos ilícitas. Es decir, todas las polémicas que cada dos por tres se ponen de manifiesto. Según los expertos, solo hacen falta unos pocos minutos.