En un nuevo avance para el desarrollo de inteligencia artificial accesible, Microsoft ha presentado BitNet b1.58 2B4T, un modelo de IA hipereficiente que puede ejecutarse únicamente en CPUs, sin necesidad de tarjetas gráficas potentes. Este modelo, con 2 mil millones de parámetros, está diseñado bajo el enfoque de bitnets, una arquitectura que utiliza solo tres valores posibles (-1, 0 y 1) para representar los pesos, lo que permite una reducción drástica en el consumo de memoria y procesamiento.
BitNet b1.58 2B4T fue entrenado con 4 billones de tokens, lo que equivale a unos 33 millones de libros, y según Microsoft, supera en rendimiento a competidores como Llama 3.2 de Meta, Gemma 3 de Google y Qwen 2.5 de Alibaba en pruebas de razonamiento como GSM8K y PIQA. Esto es particularmente llamativo, considerando que BitNet no requiere una GPU para lograr estos resultados, lo que lo hace ideal para dispositivos con recursos limitados, como laptops o incluso teléfonos móviles.
Microsoft crea IA que funciona solo con CPU.
Para aprovechar todo su potencial, el modelo debe ejecutarse mediante el framework bitnet.cpp, un entorno personalizado que, por el momento, no ofrece soporte para GPU. Esto limita su uso en entornos más potentes, pero también abre la puerta a nuevos escenarios donde la IA puede ser desplegada sin necesidad de infraestructura costosa. Este enfoque democratiza el uso de modelos avanzados de IA, haciéndolos viables en más contextos.
Además de su bajo consumo, BitNet b1.58 2B4T está disponible bajo licencia MIT, lo que permite a investigadores y desarrolladores explorar su código y adaptarlo según sus necesidades. Esta combinación de eficiencia, rendimiento y código abierto lo posiciona como una herramienta clave para expandir la IA hacia plataformas que antes no podían ejecutarla con fluidez.
Sin embargo, aún queda trabajo por hacer. Microsoft reconoce que la falta de soporte para GPU y la necesidad de un entorno de ejecución específico limitan su adopción a gran escala. Aun así, BitNet b1.58 2B4T representa una propuesta innovadora y muestra el camino hacia una IA más eficiente, accesible y sostenible para todos.
Fuente: TechCrunch
