Claude Mythos hace temblar Europa: el BCE pide a los bancos que se preparen para lo peor

El nombre de Claude Mythos empieza a resonar con fuerza en todo el mundo. Muchos  catalogan esta IA como un salto enorme que podría poner en jaque la seguridad mundial tal y como se conoce. 

A modo de pequeño contexto, Claude Mythos es la versión más avanzada y experimental de la inteligencia artificial desarrollada por Anthropic. No se trata de una IA para charlar o que te responda a preguntas; Mythos es un modelo especializado en el análisis de código y sistemas.

Lo que le diferencia de cualquier otra IA que hayas visto antes es su tasa de éxito en la detección de vulnerabilidades. Mientras que otros modelos pueden darte mejoras o encontrar errores básicos, Mythos es capaz de entender la lógica de un sistema operativo completo. 

A partir de una instrucción simple, el modelo puede escanear código de sistemas operativos, navegadores, librerías y herramientas muy usadas, buscando bugs y, en algunos casos, incluso diseñando cómo aprovecharlos.

La IA de Claude elimina la base de datos y las copias de seguridad de una empresa en 9 segundos y luego se "disculpa": "No lo verifiqué"

Ante este panorama, el Banco Central Europeo (BCE) no quiere esperar a que las consecuencias de un mal uso le afecten. Es por eso que ha pedido a las grandes entidades de la zona euro que expongan sus planes de contingencia. Quieren saber, punto por punto, qué van a hacer cuando Mythos sea accesible y cómo piensan protegerse. La idea es que, antes de que sea demasiado tarde, las entidades conozcan sus puntos débiles y los corrijan. 

Entre los citados han estado, por supuesto, los cuatro grandes españoles: Santander, BBVA, CaixaBank y Sabadell. Según fuentes internas que han hablado con Bloomberg, esta auditoría es obligatoria.

Claude Mythos es tan poderoso que Anthropic duda si debería lanzarlo al público, ahora sufre un hackeo

Claude Mythos viene acompañado de una advertencia de seguridad a nivel global 

Mythos ha demostrado ser capaz de encontrar vulnerabilidades de día cero, es decir, fallos que nadie conoce y para los que no hay parche, de forma masiva.

Sin ir más lejos, Mozilla Foundation ha confirmado que esta IA detectó nada menos que 271 vulnerabilidades en una versión de prueba de Mozilla Firefox antes de su lanzamiento oficial.

Según Mozilla, estas vulnerabilidades estaban escondidas en el código del navegador y habrían necesitado de semanas o incluso meses de trabajo de expertos en seguridad para ser detectadas manualmente (si es que lo conseguían). La IA, en cambio, las cazó en un análisis automático previo al lanzamiento.

Por eso, Anthropic ha decidido no lanzarlo al público general de forma abierta. En su lugar, la compañía ha convocado a 50 compañías de software para corregir esas vulnerabilidades.

Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Fundación Linux, Microsoft, Nvidia y Palo Alto Networks ya están convocadas, y pronto se unirán 40 más. Compartirá con ellos las vulnerabilidades críticas que Claude Mythos ha encontrado, para corregirlas antes que una IA parecida caiga en malas manos.

Ya es oficial: las empresas se están gastando más dinero en IA de lo que costaría contratar a trabajadores humanos

Christine Lagarde, presidenta del BCE, por su lado, ha admitido que Anthropic está actuando de forma responsable, consciente de que tienen entre manos algo que puede ser "realmente bueno o realmente malo". Es una postura que también comparten en la Casa Blanca, donde el secretario del Tesoro, Scott Bessent, ya se ha reunido con los grandes de Wall Street para tratar este mismo tema. 

La diferencia es que en Estados Unidos los bancos juegan con ventaja teniendo en cuenta que pueden acceder a ese modelo y saber cómo actúa, mientras que en Europa todavía solo queda esperar. 

El gran problema es que, si alguien consigue liberar a Claude Mythos o engañarlo para que trabaje para estas personas, el daño sería casi irreparable. Anthropic se encuentra en una posición delicada: tienen la llave para poder al menos arreglar el código de cientos de enormes compañías mundiales, pero esa misma llave puede usarse para tirar por tierra todo internet.

Por eso, el BCE ha situado la supervisión de la IA como la prioridad número uno para los próximos años. Es el momento de protegerse y blindar todas sus entradas.