Beam, el modelo de IA de 501.000 millones de parámetros que puedes descargar y modificar
El laboratorio estadounidense Reflection lanza en Hugging Face un modelo gigante de código abierto pensado para programación y agentes de IA, con licencia Apache 2.0 y ejecutable en infraestructura propia
Reflection lanzó Beam, un modelo de lenguaje de 501.000 millones de parámetros con arquitectura mixture-of-experts que activa sólo 23.000 millones por token, diseñado para programación y agentes de IA. Tiene licencia Apache 2.0, maneja contextos de un millón de tokens y está disponible en Hugging Face en formatos BF16, FP8 y NVFP4.
Reflection, un nuevo laboratorio de inteligencia artificial con sede en Estados Unidos, acaba de lanzar en Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) su primer modelo: Beam. Se trata de un modelo de lenguaje con 501.000 millones de parámetros (los valores numéricos que definen cómo funciona un modelo de IA) que cualquiera puede descargar, ejecutar en su propia infraestructura y modificar libremente gracias a su licencia Apache 2.0, según informó Hugging Face en su blog oficial.
Lo notable de Beam es que usa una arquitectura llamada mixture-of-experts o MoE (un diseño en el que sólo una parte pequeña de la red neuronal trabaja con cada fragmento de texto), lo que significa que aunque el modelo tiene medio billón de parámetros, sólo activa 23.000 millones por cada palabra procesada. Esto le permite funcionar a la velocidad de un modelo mucho más pequeño mientras mantiene la capacidad de uno grande. El modelo está diseñado específicamente para tareas de programación y para controlar agentes de IA (programas que toman decisiones y ejecutan acciones de forma autónoma), y puede manejar contextos de hasta un millón de tokens (unidades de texto que el modelo procesa, aproximadamente tres cuartos de palabra cada una).
Beam incluye 256 expertos (subredes especializadas dentro del modelo) por cada capa MoE, de los cuales el sistema elige 8 para procesar cada token. El modelo tiene 52 capas en total: las tres primeras son densas (procesan todo el texto con toda la red) y las restantes 49 usan la arquitectura MoE, que concentra el 98,4% de los parámetros totales. Para la atención (el mecanismo que permite al modelo recordar información previa), 43 capas usan una ventana deslizante de sólo 512 tokens, mientras que 9 capas atienden a todo el contexto completo. Esta combinación hace que la memoria caché (el espacio donde se guardan datos intermedios durante el procesamiento) crezca sólo 36 kilobytes por token en lugar de los 208 que necesitaría un diseño convencional.
El modelo se distribuye en tres formatos de precisión: BF16 (el formato completo de 1 terabyte), FP8 (una versión comprimida a 8 bits ideal para chips Hopper y Ampere de NVIDIA) y NVFP4 (que almacena la mayoría de parámetros en 4 bits y reduce el tamaño a unos 280 gigabytes, diseñado para las GPU Blackwell más recientes de NVIDIA). Los resultados de rendimiento muestran que Beam alcanza un 81,6% en SWEBench Verified (un test que mide la capacidad de resolver errores reales de programación), un 97,7% en AIME 2026 (problemas matemáticos de nivel olímpico) y un 90,6% en GPQA Diamond (preguntas científicas de nivel doctorado).
Para fomentar su adopción, Reflection y Hugging Face han lanzado un concurso que repartirá 10.000 dólares en créditos de la plataforma Hub entre los mejores proyectos que usen Beam. Los participantes pueden crear demos, cuantizar el modelo (reducir el tamaño de sus parámetros) para hardware específico, generar datasets sintéticos (conjuntos de datos creados artificialmente para entrenar otros modelos) o construir entornos de aprendizaje por refuerzo (un método de entrenamiento donde el modelo aprende por ensayo y error). El modelo tiene soporte desde el primer día en las bibliotecas transformers, SGLang y vLLM (herramientas de código abierto para ejecutar modelos de lenguaje), y viene con su propio sistema de ejecución escrito en Rust para maximizar el rendimiento.
