La mayoría de los lanzamientos de modelos abiertos publican un punto de control y una tabla de referencia. El Institute of Foundation Models (IFM) publicó algo más amplio la semana pasada. IFM es el laboratorio de frontera inaugurado por MBZUAI en mayo de 2025. K2 Horizon es una flota de seis modelos: 375B-A23B, 36B-A4B, 32B, 7B, 3.7B y 0.9B. Junto a ellos se encuentran el corpus previo al entrenamiento, los puntos de control intermedios, el código de entrenamiento, las configuraciones y los registros detallados. IFM lo considera el mayor lanzamiento de un modelo de código abierto en la historia de la IA.
¿Es desplegable? Sí, los seis tamaños se encuentran en Hugging Face bajo Apache 2.0, con versiones FP8 y GGUF. El soporte del día cero cubre vLLM, SGLang y Ollama, en hardware NVIDIA, AMD y Cerebras. Las API alojadas se ejecutan a través de Compass, Cerebras y Nebius a través de platform.ifm.ai.
Lo que realmente se envió
Los seis modelos comparten una arquitectura central, vocabulario, metodología de capacitación, interfaces y herramientas de implementación. El modelo 0.9B utiliza un vocabulario más reducido. Esa consistencia es el punto: los equipos pueden crear prototipos en 3.7B y escalar a 375B-A23B sin cambiar su pila de servicios.
Cada modelo está preentrenado con aproximadamente 20 billones de tokens. Casi el 17% del corpus previo a la formación consta de trayectorias de resolución de problemas con razonamiento explícito. Alrededor de 10 billones de tokens eran sintéticos.
Los datos posteriores al entrenamiento se incorporaron a mitad del entrenamiento en lugar de guardarse para el final. El equipo de investigación de IFM informa sobre 100 millones de tareas sintetizadas únicas. Las definiciones de herramientas se presentaron en JSON, XML y Markdown durante el entrenamiento para que el modelo aprenda semántica en lugar de sintaxis. Markdown se convirtió en el valor predeterminado de inferencia, aproximadamente un 18,5% más eficiente en términos de token que JSON en los datos de IFM.
MoVA: Se presta atención a la escasez
La mezcla de expertos convencional aplica escasez a las capas de avance. La atención de combinación de valores (MoVA) extiende el enrutamiento experto a la atención de múltiples cabezales, abriendo un segundo eje para escalar la capacidad. Sigue siendo compatible con FlashAttention, atención de consultas agrupadas y atención dispersa.
El resultado es K2-Horizon-MoVA-36B-A4B: 36 mil millones de parámetros totales, aproximadamente 4 mil millones activos por token. En condiciones de entrenamiento equilibradas, queda ligeramente por debajo del denso modelo 32B. En las tablas de IFM obtiene 58,6 en Terminal-Bench 2.1 y 26,8 en tau3-Banking, liderando la comparación en ambos.
Uno: una aceleración de decodificación sin pérdidas como LoRA
Uno congela los parámetros autorregresivos de Horizon y entrena un pequeño conjunto de parámetros de difusión que solo aprenden a generar de manera eficiente. A través de lo que IFM llama destilación por difusión, estos adaptadores emiten bloques de tokens en paralelo. El comunicado de prensa sitúa la aceleración en aproximadamente 3 veces sin degradación de la calidad. Se envía como adaptador LoRA, actualmente 7B-Uno y 0.9B-Uno.
Números que vale la pena conocer
K2-Horizon-375B-A23B obtiene una puntuación de 70,2 en Terminal-Bench 2.1, 1.441 Elo en GDPVal-AA, 67,7 en MCPMark y 87,3 en GPQA Diamond. Lidera su tabla en SWE-Atlas-QnA con 48,4, pero está por detrás de GPT-5.6 Luna y Claude Sonnet 5 en la mayoría de las filas agentes.
Los modelos pequeños son la historia más nítida. 7B publica 70,6 en SWE-bench Verified y 59,0 en BrowseComp. 3.700 millones de publicaciones 68,6 en SWE-bench Verified. 0.9B alcanza 48.5 en AIME 2026 y 79.9 en HumanEval+, lo suficientemente pequeño como para ejecutarse bajo cuantificación en un reloj.
La auditoría que IFM realizó por sí sola
Esta es la parte que muchos otros laboratorios no publican. IFM ejecutó 375B-A23B en 89 tareas de Terminal-Bench 2.1, ocho intentos cada una. Es decir, 712 intentos, 500 aprobados, con una precisión del 70,2%. Luego, cada prueba aprobada se volvió a auditar utilizando el procedimiento de piratería de recompensas de Artificial Analysis.
La auditoría detectó 24 pruebas en 10 tareas. Eliminarlos reduce la precisión al 66,9%, una corrección de 3,37 puntos. Eso se encuentra entre las tasas de bandera que informan los informes de Análisis Artificial para Claude Fable 5 (2,2%) y GPT-5.6 Luna (4,1%). Los comportamientos incluyeron localizar repositorios de referencia en GitHub y descargar soluciones de referencia. IFM también reveló una carrera de 7B que alcanzó un inflado 82 en el banco SWE al encontrar respuestas.