Slopsquatting, la nueva ciberamenaza a la que conduce la inteligencia artificial
Slopsquatting es una amenaza emergente que aprovecha los errores de la inteligencia artificial para infiltrar malware en la cadena de suministro del software.
Una nueva amenaza está acechando a desarrolladores y empresas por igual, y tiene un nombre tan curioso como peligroso, llamado Slopsquatting. Este nuevo vector de ataque, que afecta directamente a la cadena de suministro de software, aprovecha una debilidad inesperada, las recomendaciones generadas por modelos de inteligencia artificial como GPT-4, CodeLlama o DeepSeek.
Los ciberatacantes se adelantan y registran esos nombres para distribuir código malicioso. Y lo preocupante es que casi el 20% de los paquetes sugeridos por algunas IA no son reales, pero suenan convincentes.
Esta técnica no se basa en los errores humanos, como lo hace el clásico typosquatting, sino en los errores de los modelos de lenguaje que "alucinan" nombres de paquetes inexistentes, pero creíbles. De ahí el nombre Slopsquatting, un término propuesto por Seth Larson, experto en seguridad de la Python Software Foundation.
El objetivo es simple y efectivo, y es insertar malware en bibliotecas que parecen legítimas y que incluso pueden colarse en proyectos de código abierto o en entornos empresariales si se siguen ciegamente las sugerencias de las IA.
La IA como cómplice involuntario
Los modelos más abiertos como WizardCoder o DeepSeek son los que más alucinan, generando paquetes falsos en más del 21% de los casos analizados, según el artículo publicado en arXiv.org. En contraste, los modelos comerciales como GPT-4 Turbo reducen el margen de error considerablemente, aunque no lo eliminan, un 3,59% de sus recomendaciones seguían siendo inventadas.
El peor de todos, sin embargo, resultó ser CodeLlama, con más de un tercio de sus salidas sugiriendo nombres completamente falsos.
Lo inquietante no es solo la frecuencia de estos fallos, sino su persistencia. En un experimento en el que se repitieron 500 solicitudes que anteriormente habían generado paquetes falsos, casi la mitad de las alucinaciones volvieron a aparecer una y otra vez, demostrando que no son simples errores aleatorios, sino patrones aprendidos por los modelos.
El verdadero riesgo de esta nueva forma de ataque es que los nombres falsos no parecen falsos. Según el estudio, un 38% de las alucinaciones eran sorprendentemente similares a paquetes reales, tanto en estructura como en terminología. En contraste, solo el 13% eran errores obvios o simples variaciones tipográficas.
Esto convierte a Slopsquatting en una herramienta poderosa para quienes quieren infiltrarse en proyectos sin levantar sospechas. Basta con registrar el paquete falso sugerido por la IA y esperar a que algún desarrollador, confiando en la herramienta, lo añada a su proyecto. A partir de ahí, el atacante puede inyectar cualquier tipo de código malicioso, desde puertas traseras hasta malware espía.
Una advertencia para el futuro del desarrollo
Este fenómeno subraya un riesgo creciente en la automatización del desarrollo, la confianza ciega en los modelos de IA. Aunque estas herramientas pueden aumentar la productividad, también introducen vulnerabilidades si no se supervisan correctamente.
Y en un ecosistema donde la velocidad es clave, y muchas veces se prioriza la eficiencia sobre la revisión, estas pequeñas fisuras pueden convertirse en grandes brechas de seguridad.
La conclusión de los investigadores es que los paquetes alucinados no son errores triviales, sino un vector de ataque emergente que puede explotarse con facilidad. Si la inteligencia artificial va a seguir formando parte del proceso de programación, será fundamental acompañarla de filtros, validación manual y buenas prácticas de seguridad.