Experto en seguridad consigue convertir a ChatGPT en un hacker con la técnica más antigua del mundo: mentir
Un simple juego de superhéroes y villanos es todo lo que se ha necesitado para vulnerar la seguridad de la inteligencia artificial de OpenAI y Sam Altman.
¿Es ChatGPT realmente seguro? Según muchos expertos, la inteligencia artificial no hace honor a su nombre. Es decir, que no es inteligente, aunque en ocasiones lo parezca. Si esto es cierto, existe un riesgo evidente: engañarla no podría ser muy difícil. Y parece que esto es precisamente lo que ha hecho un especialista, que ha logrado convertir la herramienta de OpenAI en un hacker.
Aunque desde la compañía de Sam Altman aseguran cada poco tiempo que trabajan todo lo posible en que su chatbot resulta seguro, no todo el mundo está del todo de acuerdo. Y este nuevo sucedo da la impresión de ponerlo de manifiesto. Sobre todo, porque para lograrlo no ha sido necesario ninguna estrategia compleja, sino algo tan simple como saber cómo mentir.
ChatGPT se deja engañar por una mentira
Un simple juego de rol. Eso es todo lo que los expertos han necesitado para engañar a ChatGPT. Solo que en este caso no han llevado a la popular herramienta de inteligencia artificial a tener una alucinación o dar una respuesta absurda, sino a algo bastante más preocupante: convertirse en un hacker. Así lo han puesto de manifiesto desde el portal Business Insider.
La historia es la siguiente: Vitaly Simonovich, un experto en amenazas relacionadas con la inteligencia artificial que trabaja en Cato Networks, descubrió que ChatGPT podía ser persuadido para generar malware si se le presentaba como parte de una historia ficticia. Es decir, si se le mentía. En lugar de preguntarle directamente para que hiciese un código malicioso, se inventó una historia.
Por extraño que pueda resultar (e ingenioso, para qué negarlo), el especialista en ciberseguridad creó una historia en la que ChatGPT interpretaba a un superhéroe que tenía que desarrollar herramientas para derrotar a un villano. El chatbot de OpenAI no solo entró al trapo, sino que hizo un código capaz de extraer contraseñas almacenadas en el gestor de contraseñas de Google Chrome.
Como era de esperar, este suceso no ha pasado desapercibido, sobre todo para aquellos que se sienten preocupados por la falta de seguridad o de privacidad que puede traer consigo la inteligencia artificial. Si algo así ha dado resultado, ¿de qué otras muchas maneras podía engañarse a la IA para que lleve a cabo tareas reñidas con la ética? Esa es la pregunta ahora.
Los riesgos de inteligencia artificial, en tela de juicio
Aunque la inteligencia artificial pueda ayudar a muchas personas en su día a día, eso no quita para que también pueda ponerse del lado de los ciberdelincuentes. Como cualquier herramienta, es capaz de tener dos caras. En este caso se ha usado para crear código malicioso, pero también podría ocurrir lo mismo con correos electrónicos fraudulentos o estrategias de ataques cibernéticos.
Quizá esta advertencia llevada a cabo por este experto no sirva para detener los avances en inteligencia artificial, pero sí pone de manifiesto que, a pesar de lo que algunos piensan, este tiene más vulnerabilidades de las que podría pensarse. Con una simple mentira parece haber quedado más que demostrado.