Palo a OpenAI, Google y Nvidia: Microsoft tiene una IA que funciona en una CPU estándar
Microsoft posee un modelo de IA muy especial, una bitnet que funciona en un procesador clásico, con un rendimiento similar a ciertas versiones de Llama y Gemini. ¿El fin de la tiranía de los chips de IA?
Desde el principio nos han dicho que la inteligencia artificial solo puede funcionar en local, si tenemos un chip de IA integrado en el procesador o la GPU. Pero Microsoft ya está trabajando con una IA que funciona en una CPU convencional ¿Es eso posible?
Este revolucionario modelo de IA se llama BitNet b1.58 2B4T, y según la propia Microsoft obtiene un rendimiento similar a Llama 3.2 de Meta y Gemma 3 de Google, ambos con 1.000 millones de parámetros, en problemas matemáticos escolares, y en el test de razonamiento PIQA. También iguala a Qwen 2.5 de Alibaba con 1.500 millones.
Según la compañía creadora de Windows, BitNet b1.58 2B4T es el doble de rápido en obtener los resultados, y consume mucha menos memoria. ¿Cómo funciona?
Que es una bitnet, la IA que funciona sin chips de IA
Una bitnet o red de bits es un modelo de IA comprimido para funcionar en hardware convencional.
La inteligencia artificial estándar cuantifica los "pesos", los valores que definen la estructura interna del modelo, para reducir el número de bits que se necesitan para representar esos pesos. Así funcionan más rápido, y con menos memoria.
Las bitnets consiguen cuantificar esos pesos en solo tres valores: 1, 0 y -1. Esto hace que sean muy eficientes, y puedan funcionar en un procesador sin chip de IA.
Según cuenta TechCrunch, Microsoft asegura que BitNet b1.58 2B4T es la primera red de bits con 2.000 millones de parámetros, equivalentes a pesos. Han conseguido entrenar a esta IA con 4 billones de tokens, el equivalente a 33 millones de libros, para conseguir los resultados mencionados.
La única limitación es que esta bitnet necesita para funcionar el framework de Microsoft llamado bitnet.cpp. Por tanto solo funciona en los procesadores que la compañía de Satya Nadella elija. Se han confirmado algunas CPU de Intel, e incluso el Apple M2. Puedes probarla y descargarla gratis en Hugging Face.
¿Significa esto que la IA no necesita chips de IA? No exactamente. Las bitnets tienen un rendimiento y capacidades limitadas. Pero demuestran que, en el futuro, muchas funciones básicas de IA podrán usarse en procesadores convencionales.