Expertos militares advierten del peligro de los chatbots de IA: "Pueden sembrar el caos"
¿Hasta qué punto herramientas como ChatGPT o Copilot pueden poner en riesgo la seguridad de un país? Los especialistas han lanzado un mensaje inquietante.
Muchos son los expertos que tienen miedo de la inteligencia artificial. No por escenarios de ciencia ficción a lo Matrix o Terminator, sino por amenazas que, según ponen de manifiesto numerosos especialistas en tecnología, ya existen. Las ciberestafas se han disparado, y esta tecnología parece dar la capacidad a cualquier de convertirse en un hacker. ¿Pero qué piensan los militares?
Esta es una cuestión que quizá no tendría demasiada relevancia si no fuese por un factor clave: la IA ya forma parte de muchos sectores relevantes, entre ellos el militar. Por eso resulta comprensible que profesionales de este mundo también hayan dado su opinión, y que esta no pueda ser más rotunda. Hablan de vulnerabilidades de la seguridad y de una capacidad para "sembrar el caos".
Los peligros militares de la IA
Detrás de este titular, que engloba las opiniones de distintos militares tanto en activo como retirados, tal y como recoge la web DefenseNews, podría esconderse algo de ambigüedad. Sin embargo, no es así. ¿Qué entienden los militares por "sembrar el caos"? Según ellos mismos describen, el principal peligro de la inteligencia artificial está en las instrucciones maliciosas.
O para ser más precisos, en la incapacidad de los charbots de IA para distinguir estas peticiones de las que tienen intenciones confiables. ¿El resultado de todo ello? Que cualquiera puede inyectar instrucciones con las que manipular la opinión pública o robar archivos secretos, por nombrar solo dos ejemplos. Asuntos que, desde el punto de vista de la defensa de un país, son delicados.
Es más o menos lo que opina Liav Caspi, un miembro retirado de la unidad de guerra cibernética de las Fuerzas de Defensa de Israel. Sus palabras especifican lo que muchos de sus colegas quieren decir: "La IA no es lo suficientemente inteligente como para comprender que tiene una inyección en su interior, por lo que realiza algo que no debería hacer", asegura el experto.
Pero ahí no termina su negativa visión de la IA, sino que va más allá: "Es como tener un espía dentro de tus filas", dice, haciendo una analogía aún mayor con el mundo militar. "Un enemigo ha podido convencer a alguien desde dentro para que haga lo que quiere", advierte Caspi. De hecho, no hace falta imaginarlo: casos de este tipo ya se han visto en ChatGPT, Copilot o Gemini.
Tener el enemigo en casa
Se han identificado casos concretos: por ejemplo, investigadores demostraron que un modelo de Microsoft Copilot podría haber sido engañado para robar datos confidenciales, y que un plugin de navegador de IA fue manipulado. Lo que desde un punto de vista militar, incide en eso de tener al adversario dentro.
Además, la conclusión a la que llegan los militares en materia de seguridad relacionada con la IA no es lo que se dice optimista: nada va a cambiar. Es algo que comparten muchos expertos del mundo civil, pero con una diferencia: en este caso, un fallo de la IA puede tener consecuencias nacionales o estratégicas, con todo el riesgo que eso conlleva.