Anthropic no liberará su nueva IA Claude Mythos, es un peligro: "Ha encontrado miles de vulnerabilidades críticas en todos los sistemas operativos y en todos los navegadores"
La nueva inteligencia artificial de Anthropic es tan poderosa, que de momento no la va a liberar. Ha convocado a 50 compañías de software.
Los agentes de IA capaces de generar código, están empezando a dar mucho, mucho miedo. La propia Anthropic reconoce que su nueva IA Claude Mythos Preview puede, literalmente, sembrar el caos en el mundo, hackeando todos los sistemas operativos y todos los navegadores que existen.
Claude Mythos Preview no solo ha encontrado “miles de vulnerabilidades críticas del Día Zero en todos los navegadores y sistemas operativos que existen”. Al contrario que sus predecesores, puede crear exploits para el 72% de todas ellas, en algunas categorías. Imagina esta IA en manos de ciberdelincuentes…
Por suerte, Anthropic es una de las pocas compañías de IA que se preocupa por la seguridad de la humanidad, y por eso Trump la ha declarado “compañía de alto riesgo”, su venganza porque Anthropic no le quiere dar su IA para la guerra. Por eso ha decidido no liberar Claude Mythos, y ha convocado a 50 compañías de software para corregir esas vulnerabilidades.
Nace Project Glasswing
Pese a que, de momento Claude Mythos Preview no será una IA pública, Anthropic teme que la competencia, con menos escrúpulos, libera un agente de IA similar. Por eso ha puesto en marcha Project Glasswing, una especie de concilio de compañías de software para ver cómo afrontan lo que ha descubierto el nuevo agente de IA que genera código.
Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Fundación Linux, Microsoft, Nvidia, y Palo Alto Networks ya están convocadas, y pronto se unirán 40 más. Compartirá con ellos las vulnerabilidades críticas que Claude Mythos ha encontrado, para corregirlas antes que una IA similar caiga en malas manos.
Lo que diferencia a Mythos de Claude Code, o Codex de OpenAI, es que estos agentes de código son bastante malos creando exploits para aprovechar las vulnerabilidades que encuentran. En cambio Mythos es capaz de convertir el 72,4 % de las vulnerabilidades que identifica en exploits exitosos dentro del entorno de JavaScript de Firefox. Además consigue el control de los registros en otro 11,6 % de los ataques intentados.
Según explica Anthropic en su blog, Mythos ha llegado a encadenar hasta cuatro vulnerabilidades diferentes para crear un exploit, algo que se considera “muy difícil” incluso para los hackers de elite.
Entre los ejemplos reales que ofrece, detalla una vulnerabilidad de hace 27 años en el sistema operativo OpenBSD que permite a un atacante bloquear un sistema con solo conectarse a él. También detalla una cadena de exploits en el núcleo de Linux que permitiría a un atacante obtener acceso root al sistema host. Es decir, controlarlo por completo.
Se habla mucho de una futura IA que cause el caos en todo el mundo, pero hasta ahora solo era teoría. Claude Mythos es un ejemplo real de que ya es posible. En manos de ciberdelincuentes o gobiernos extremistas, se podría crear malware que se cuele en todos los sistemas operativos y navegadores del mundo, para hackear, tumbar infraestructuras, o robar datos.