Microsoft Research ha lanzado OptiMind, un sistema basado en inteligencia artificial que convierte descripciones en lenguaje natural de problemas de decisión complejos en formulaciones matemáticas que los solucionadores de optimización pueden ejecutar. Se dirige a un cuello de botella de larga data en la investigación de operaciones, donde traducir la intención comercial en programas lineales enteros mixtos generalmente requiere modeladores expertos y días de trabajo.
¿Qué es OptiMind y qué produce?
OptiMind-SFT es un modelo especializado de mezcla de expertos con parámetros 20B de la familia de transformadores gpt oss. Aproximadamente 3,600 millones de parámetros están activos por token, por lo que el costo de inferencia se acerca más al de un modelo de tamaño mediano manteniendo una alta capacidad. La longitud del contexto es de 128.000 tokens, lo que permite especificaciones largas y seguimientos de razonamiento de varios pasos dentro de una sola solicitud.
El modelo toma como entrada una descripción en lenguaje natural de un problema de optimización. El resultado es una formulación matemática junto con un código Python ejecutable que utiliza GurobiPy. El script generado define variables de decisión, restricciones y objetivos, llama al solucionador Gurobi e imprime el valor objetivo óptimo y las decisiones.
OptiMind actúa como una capa de formulación entre los expertos en el dominio y los solucionadores MILP estándar. No reemplaza al solucionador, genera el MILP que el solucionador optimizará.
Arquitectura, configuración de entrenamiento y conjuntos de datos
El modelo base es openai/gpt-oss-20b, ajustado en microsoft/OptiMind-SFT utilizando conjuntos de datos de optimización limpios. La arquitectura es un transformador de Mezcla de Expertos, con enrutamiento que activa un subconjunto de expertos por token. El modelo se lanza bajo la licencia MIT.
La formación utiliza 8 GPU NVIDIA B200, y la inferencia y evaluación en la configuración de referencia utilizan 8 GPU NVIDIA H100. El tiempo de ajuste fino informado es de aproximadamente 8 horas. Para un uso regular, el equipo recomienda al menos 32 GB de memoria GPU en hardware como A100, H100 o B200.
Para un ajuste fino supervisado, el equipo de investigación construyó versiones limpias de OR Instruct y OptMATH Train. Para las pruebas, utilizan versiones validadas y limpiadas por expertos de IndustryOR, Mamo Complex y OptMATH. Estos puntos de referencia cubren tareas de formulación difíciles en las que los modelos existentes a menudo alcanzan solo entre un 20 y un 50 por ciento de precisión en comparación con las ruidosas versiones originales.
Análisis de errores basado en clases y limpieza de datos
Una idea técnica clave en OptiMind es combinar la experiencia en optimización con la formación LLM. El equipo de investigación clasifica los problemas de OR-Instruct y OptMATH en 53 clases de semillas, por ejemplo, cobertura de escenarios, programación de flujo de taller o problema del vendedor ambulante.
Para cada clase, ejecutan el modelo gpt-oss-20b-base en una muestra de problemas y seleccionan instancias en las que el resultado del modelo no está de acuerdo con la verdad fundamental. Los expertos en optimización inspeccionan estos elementos, identifican los errores de formulación recurrentes y escriben breves descripciones de errores y consejos preventivos. Estas sugerencias describen restricciones correctas, límites de variables o trucos de modelado, como las restricciones adecuadas de Miller Tucker Zemlin para TSP.
Luego, el equipo de investigación utiliza una tubería semiautomática. Regeneran soluciones con un modelo más grande que se solicita con sugerencias específicas de clase, aplican votación mayoritaria en muestras para mejorar la calidad de la solución y descartan elementos que siguen siendo inconsistentes. También detectan parámetros faltantes y declaraciones ambiguas y regeneran descripciones de problemas cuando es necesario. El resultado es un corpus de entrenamiento limpio y mejor alineado con formulaciones matemáticas correctas.
Canal de inferencia, sugerencias y escala de tiempo de prueba
En el momento de la inferencia, OptiMind se comporta como un sistema de varias etapas, no como un solo mensaje. La canalización predeterminada primero clasifica cada instancia de prueba en una de las 53 clases de optimización utilizadas durante el análisis de errores. Luego aumenta el mensaje con el resumen de errores y los pares de sugerencias asociados con esa clase.
Luego, el modelo genera una traza de razonamiento, la formulación matemática y el código GurobiPy. Cuando hay más computación disponible, el sistema puede aplicar coherencia automática con votación mayoritaria. Genera varios scripts candidatos, los ejecuta y selecciona la solución que aparece con mayor frecuencia dentro de las tolerancias numéricas establecidas.
También se puede habilitar un modo de corrección de múltiples giros. El sistema ejecuta el código generado, captura los registros del solucionador o los errores de ejecución, envía esta retroalimentación al modelo y permite que el modelo revise la formulación y el código durante algunas rondas. Esto soluciona algunos errores de modelado y codificación a costa de una mayor latencia.
Ganancias cuantitativas en los puntos de referencia de optimización
En versiones limpias de IndustryOR, Mamo-Complex y OptMATH, el marco OptiMind mejora significativamente la precisión de la solución. El modelo ajustado mejora la precisión de la formulación en un 20,7 por ciento en múltiples puntos de referencia de optimización, con ganancias adicionales cuando se aplican técnicas de escalamiento del tiempo de prueba, como la autoconsistencia y la retroalimentación de múltiples vueltas.
En todos estos puntos de referencia, OptiMind mejora la precisión absoluta con respecto al modelo gpt-oss-20b-base y supera a otros modelos de código abierto de tamaño similar o mayor. Alcanza un rendimiento que es competitivo con modelos de frontera patentados como GPT-o4 mini y GPT-5 en la configuración de evaluación.
Estos resultados se basan en una limpieza cuidadosa de los datos de entrenamiento y de prueba. El equipo de investigación informa que muchos errores aparentes del modelo en los puntos de referencia originales en realidad provienen de datos faltantes, descripciones ambiguas o soluciones de referencia incorrectas, y que una nueva limpieza puede elevar la precisión aparente para un modelo fijo de aproximadamente 40 a 60 por ciento al rango de 70 a 90 por ciento en los conjuntos corregidos.
Conclusiones clave
OptiMind es un transformador de mezcla de expertos de 20 mil millones de parámetros en la familia gpt-oss que toma problemas de optimización del lenguaje natural como entrada y genera una formulación matemática y un código GurobiPy ejecutable, con alrededor de 3,6 mil millones de parámetros activados por token y una longitud de contexto de 128 000 tokens. El modelo se ajustó desde openai/gpt-oss-20b en conjuntos de datos de optimización limpios, como OR-Instruct y OptMATH, y se evaluó en puntos de referencia validados por expertos, incluidos IndustryOR y Mamo Complex, centrándose en formulaciones de programación lineal entera mixta. OptiMind utiliza análisis de errores basados en clases y sugerencias escritas por expertos para 53 clases de optimización, luego aplica estas sugerencias tanto en la limpieza de datos como en el momento de la inferencia, lo que reduce sistemáticamente los errores comunes de modelado en los MILP generados. El marco mejora la precisión de la formulación en un 20,7 por ciento en múltiples puntos de referencia de optimización en comparación con el modelo base, y con métodos de escalamiento del tiempo de prueba, como la autoconsistencia y la retroalimentación de múltiples turnos, alcanza un rendimiento que es competitivo con sistemas propietarios más grandes. OptiMind-SFT se lanza como microsoft/OptiMind-SFT en Hugging Face y como microsoft-optimind-sft en Azure AI Foundry, donde se puede servir a través de SGLang como un punto final compatible con OpenAI, lo que permite una integración práctica en procesos de soporte de decisiones para cadenas de suministro, fabricación, logística y programación.
Consulte los pesos del modelo y los detalles técnicos. Además, no dude en seguirnos en Twitter y no olvide unirse a nuestro SubReddit de más de 100.000 ML y suscribirse a nuestro boletín. ¡Esperar! estas en telegrama? Ahora también puedes unirte a nosotros en Telegram.
Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como emprendedor e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.