Le pregunta a la IA de ChatGPT sobre su planta y la respuesta es muy preocupante: "Es lo más aterrador que he visto".
En lugar de un simple consejo sobre el cuidado de su planta, la IA le proporcionó información completamente ajena a su consulta, incluyendo datos personales de una persona desconocida.
La inteligencia artificial está cada vez más presente en nuestras vidas, desde la automatización de tareas hasta la mejora de la productividad. Pero, ¿qué sucede cuando estas herramientas fallan de manera inesperada?
Este es el caso de Pruthvi Mehta, una usuaria de LinkedIn, que, buscando ayuda para cuidar su planta, terminó recibiendo una respuesta aterradora de una IA. Subió una foto de su planta a una plataforma de inteligencia artificial, y la información que le proporcionó información completamente ajena a su consulta, incluyendo datos personales de una persona desconocida.
"Esto podría ser lo más aterrador que he visto hacer a una IA", explicaba Mehta en su LinkedIn. La situación, que al principio parecía inofensiva, se convirtió rápidamente en una inquietante violación de la privacidad.
Esta historia no es un caso aislado. Con el avance de las plataformas de inteligencia artificial generativa como ChatGPT-4o, Grok 3 y Midjourney, los expertos en ciberseguridad están comenzando a expresar serias preocupaciones sobre los riesgos asociados al uso de estas tecnologías.
Los peligros inmediatos de la IA para los usuarios comunes
"ChatGPT me dio: el CV completo del Sr. Chirag. Su número de registro de estudiante de CA. El nombre de su director y número de miembro de ICAI. Y con confianza lo llamó notas de Gestión Estratégica", indicaba Mehta.
Este incidente resalta un peligro inmediato que muchos usuarios comunes no consideran al interactuar con la inteligencia artificial. Cuando usamos estas plataformas, a menudo confiamos en que nos proporcionarán respuestas precisas y útiles.
Sin embargo, al igual que en el caso de la planta, los sistemas de IA pueden, inadvertidamente, entregar información errónea, desinformada o incluso privada. En el caso de Mehta, el sistema de IA no solo falló al proporcionar la ayuda solicitada, sino que expuso datos personales sensibles de un tercero, lo cual es una clara violación de la privacidad.
Los peligros de la IA van más allá de errores inocentes. Los actores maliciosos están aprovechando el potencial de estas plataformas para llevar a cabo fraudes, desinformación y manipulaciones.
Madhu Srinivas, director de riesgos de Signzy, una empresa especializada en soluciones de riesgo y cumplimiento impulsadas por IA, explicó a Live Mint: "Estas plataformas ahora se están utilizando para crear rostros humanos falsos, escenas hiperrealistas y elementos visuales emocionalmente manipuladores que alimentan estafas, campañas de desprestigio e incluso desinformación política".
Esto se extiende a situaciones como el fraude de identidad, los ataques de phishing, la sextorsión, e incluso la desinformación política, un fenómeno particularmente pronunciado en regiones como el sur de Asia, donde las tensiones políticas y la difusión rápida de información a través de aplicaciones como WhatsApp y Telegram alimentan la propagación de noticias falsas.
La amenaza de los deepfakes y la manipulación emocional
Uno de los mayores riesgos de la IA en el ámbito de la seguridad es la capacidad de crear deepfakes, es decir, imágenes o videos falsificados que pueden engañar incluso a los sistemas más avanzados de verificación biométrica.
Estas imágenes falsas pueden utilizarse para llevar a cabo fraudes, dañar la reputación de personas o incluso influir en elecciones políticas mediante la manipulación de la opinión pública.
"Las víctimas a menudo no se dan cuenta de que han sido atacadas hasta que el daño ya está hecho. Estamos observando un aumento del contenido no consentido y del fraude basado en inteligencia artificial, ambos en rápida expansión", añadió Srinivas.
Además, el acceso a estas herramientas de IA está aumentando rápidamente. Los estafadores usan la IA para suplantar a ejecutivos en correos y videollamadas, engañando a empleados. También manipulan selfies para extorsionar, crean deepfakes políticos para influir en elecciones, burlar la seguridad biométrica y estafar con perfiles falsos en plataformas como Airbnb y Fiverr.
Aunque algunas plataformas de IA, como OpenAI, han implementado filtros y medidas de seguridad para proteger a los usuarios, los expertos señalan que estos esfuerzos son insuficientes. La tecnología de IA está avanzando a un ritmo mucho más rápido que los mecanismos de protección existentes.
Para mitigar estos riesgos, los expertos sugieren implementar medidas como marcas de agua en las imágenes generadas por IA, herramientas de detección en tiempo real y sistemas de verificación transparentes que permitan a los usuarios identificar contenidos manipulados.