Análisis de series de tiempo impulsado por LLM | Hacia la ciencia de datos

Los datos siempre traen consigo su propio conjunto de acertijos. Todo científico de datos eventualmente choca contra ese muro donde los métodos tradicionales comienzan a sentirse… limitantes.

Pero, ¿qué pasaría si pudiera superar esos límites creando, ajustando y validando modelos de pronóstico avanzados utilizando el mensaje adecuado?

Los modelos de lenguajes grandes (LLM) están cambiando las reglas del juego para el modelado de series temporales. Cuando los combina con ingeniería de avisos estructurada e inteligente, pueden ayudarlo a explorar enfoques que la mayoría de los analistas aún no han considerado.

Pueden guiarlo a través de la configuración de ARIMA, el ajuste de Prophet o incluso arquitecturas de aprendizaje profundo como LSTM y transformadores.

Esta guía trata sobre técnicas rápidas avanzadas para el desarrollo, la validación y la interpretación de modelos. Al final, tendrá un conjunto práctico de indicaciones que le ayudarán a crear, comparar y ajustar modelos más rápido y con más confianza.

Todo aquí se basa en investigaciones y ejemplos del mundo real, por lo que saldrá con herramientas listas para usar.

Este es el segundo artículo de una serie de dos partes que explora cómo la ingeniería rápida puede impulsar su análisis de series temporales:

👉 Todas las indicaciones de este artículo y del artículo anterior están disponibles al final de este artículo como una hoja de referencia 😉

En este artículo:

El desarrollo avanzado de modelos solicita la validación e interpretación del modelo. Ejemplo de implementación en el mundo real. Mejores prácticas y consejos avanzados. ¡Hoja de referencia de ingeniería!

1. Indicaciones avanzadas de desarrollo de modelos

Comencemos con los pesos pesados. Como sabrá, ARIMA y Prophet siguen siendo excelentes para flujos de trabajo estructurados e interpretables, mientras que los LSTM y los transformadores destacan para dinámicas complejas y no lineales.

¿La mejor parte? Con las indicaciones correctas, ahorrarás mucho tiempo, ya que los LLM se convierten en tu asistente personal que puede configurar, ajustar y verificar cada paso sin perderse.

1.1 Selección y validación del modelo ARIMA

Antes de continuar, asegurémonos de que la línea de base clásica sea sólida. Utilice el siguiente mensaje para identificar la estructura ARIMA correcta, validar suposiciones y bloquear un proceso de pronóstico confiable con el que pueda comparar todo lo demás.

Mensaje completo de modelado ARIMA:

“Eres un modelador de series de tiempo experto. Ayúdame a construir y validar un modelo ARIMA: Conjunto de datos:

Part 2: Prompts for Advanced Model Development

The post LLM-Powered Time-Series Analysis appeared first on Towards Data Science.

Datos: [sample of time series]

Fase 1 – Identificación del modelo: 1. Prueba de estacionariedad (pruebas ADF, KPSS) 2. Aplicar diferenciación si es necesario 3. Graficar ACF/PACF para determinar los parámetros iniciales (p,d,q) 4. Usar criterios de información (AIC, BIC) para la selección del modelo Fase 2 – Estimación del modelo: 1. Ajustar el modelo ARIMA(p,d,q) 2. Verificar la significancia de los parámetros 3. Validar los supuestos del modelo: – Análisis residual (ruido blanco, normalidad) – Prueba de Ljung-Box para autocorrelación – Prueba de Jarque-Bera para normalidad Fase 3 – Pronóstico y evaluación: 1. Generar pronósticos con intervalos de confianza 2. Calcular métricas de precisión del pronóstico (MAE, MAPE, RMSE) 3. Realizar validación de avance Proporcionar código Python completo con explicaciones.”

1.2 Configuración del modelo Profeta

¿Tiene días festivos conocidos, ritmos estacionales claros o puntos de cambio que le gustaría “manejar con elegancia”? El Profeta es tu amigo.

El siguiente mensaje enmarca el contexto empresarial, ajusta las estacionales y crea una configuración con validación cruzada para que pueda confiar en los resultados de la producción.

Mensaje de configuración del modelo Prophet:

“Como experto en Facebook Prophet, ayúdame a configurar y ajustar un modelo de Prophet: contexto empresarial: [specify domain]
Características de los datos: – Frecuencia: [daily/weekly/etc.]
– Período histórico: [time range]
– Estacionalidades conocidas: [daily/weekly/yearly]
– Efectos de vacaciones: [relevant holidays]
– Cambios de tendencia: [known changepoints]

Tareas de configuración: 1. Preprocesamiento de datos para el formato Prophet 2. Configuración de estacionalidad: – Configuración de estacionalidad anual, semanal y diaria – Componentes estacionales personalizados si es necesario 3. Modelado de vacaciones para [country/region]
4. Detección de punto de cambio y configuración previa 5. Configuración del intervalo de incertidumbre 6. Configuración de validación cruzada para ajuste de hiperparámetros Datos de muestra: [provide time series]

Proporcione el código del modelo Prophet con explicaciones de parámetros y enfoque de validación”.

1.3 Guía del modelo de aprendizaje profundo y LSTM

Cuando su serie es desordenada, no lineal o multivariada con interacciones de largo alcance, es hora de subir de nivel.

Utilice el mensaje de LSTM a continuación para crear un proceso de aprendizaje profundo de un extremo a otro, desde el preprocesamiento hasta los trucos de entrenamiento que pueden escalar desde la prueba de concepto hasta la producción.

Mensaje de diseño de arquitectura LSTM:

“Usted es un experto en aprendizaje profundo que se especializa en series de tiempo. Diseñe una arquitectura LSTM para mi problema de pronóstico: Especificaciones del problema: – Longitud de la secuencia de entrada: [lookback window]
– Horizonte de previsión: [prediction steps]
– Características: [number and types]
– Tamaño del conjunto de datos: [training samples]
– Restricciones computacionales: [if any]

Consideraciones de arquitectura: 1. Número de capas y unidades de LSTM por capa 2. Estrategias de regularización y abandono 3. Formas de entrada/salida para series multivariadas 4. Funciones de activación y optimización 5. Selección de función de pérdida 6. Programación de tasa de aprendizaje y parada temprana Proporcionar: – Implementación de TensorFlow/Keras – Canal de preprocesamiento de datos – Bucle de entrenamiento con validación – Cálculo de métricas de evaluación – Sugerencias de ajuste de hiperparámetros”

2. Validación e interpretación del modelo

Usted sabe que los grandes modelos son precisos, confiables y explicables.

Esta sección le ayuda a realizar pruebas de estrés del rendimiento a lo largo del tiempo y a analizar lo que el modelo realmente está aprendiendo. Comience con una validación cruzada sólida y luego profundice en los diagnósticos para poder confiar en la historia detrás de los números.

2.1 Validación cruzada de series temporales

Mensaje de validación de avance:

“Diseñar una estrategia de validación robusta para mi modelo de series temporales: Tipo de modelo: [ARIMA/Prophet/ML/Deep Learning]
Conjunto de datos: [size and time span]
Horizonte de previsión: [short/medium/long term]
Requisitos comerciales: [update frequency, lead time needs]

Enfoque de validación: 1. División de series de tiempo (sin mezcla aleatoria) 2. Análisis de ventana expandible versus ventana deslizante 3. Pruebas de orígenes de pronóstico múltiples 4. Consideraciones de validación estacional 5. Selección de métricas de rendimiento: – Dependiente de la escala: MAE, MSE, RMSE – Errores porcentuales: MAPE, sMAPE – Errores escalados: MASE – Precisión distributiva: CRPS Proporcionar implementación de Python para: – Divisores de validación cruzada – Funciones de cálculo de métricas – Comparación de rendimiento entre pliegues de validación: pruebas de significación estadística para la comparación de modelos”

2.2 Interpretación y diagnóstico del modelo

¿Están limpios los residuos? ¿Están calibrados los intervalos? ¿Qué características importan? El siguiente mensaje le brinda una ruta de diagnóstico completa para que su modelo sea responsable.

Mensaje de diagnóstico integral del modelo:

“Realizar diagnósticos exhaustivos para mi modelo de serie temporal: Modelo: [specify type and parameters]
Predicciones: [forecast results]
Derechos residuales de autor: [model residuals]

Pruebas de diagnóstico: 1. Análisis de residuos: – Autocorrelación de residuos (prueba de Ljung-Box) – Pruebas de normalidad (Shapiro-Wilk, Jarque-Bera) – Pruebas de heterocedasticidad – Validación de supuestos de independencia 2. Adecuación del modelo: – Desempeño dentro de la muestra versus fuera de la muestra – Análisis de sesgo de pronóstico – Cobertura del intervalo de predicción – Evaluación de captura de patrones estacionales 3. Validación comercial: – Importancia económica de los pronósticos – Precisión direccional – Capacidad de predicción de picos/valles – Detección de cambios de tendencia 4. Interpretabilidad: – Importancia de las características (para modelos ML) – Análisis de componentes (para modelos de descomposición) – Ponderaciones de atención (para modelos de transformadores) Proporciona código de diagnóstico y pautas de interpretación”.

3. Ejemplo de implementación en el mundo real

Entonces, hemos explorado cómo las indicaciones pueden guiar su flujo de trabajo de modelado, pero ¿cómo puede usarlas realmente?

Ahora le mostraré un ejemplo rápido y reproducible que muestra cómo puede utilizar uno de los mensajes dentro de su propio cuaderno inmediatamente después de entrenar un modelo de serie temporal.

La idea es simple: emplearemos uno de los mensajes de este artículo (el mensaje de validación Walk-Forward), lo enviaremos a la API de OpenAI y dejaremos que un LLM brinde comentarios o sugerencias de código directamente en su flujo de trabajo de análisis.

Paso 1: cree una pequeña función auxiliar para enviar mensajes a la API

Esta función, Ask_llm(), se conecta a la API de respuestas de OpenAI utilizando su clave API y envía el contenido del mensaje.

¡No olvides tu OPENAI_API_KEY! Debe guardarlo en las variables de su entorno antes de ejecutarlo.

Después de eso, puede eliminar cualquiera de las indicaciones del artículo y obtener consejos o incluso código que esté listo para ejecutarse.

# %pip -q install openai # Solo si aún no tienes el SDK import os from openai import OpenAI def Ask_llm(prompt_text, model=”gpt-4.1-mini”): “”” Envía un mensaje de usuario único a la API de Respuestas y devuelve texto. Cambia ‘modelo’ a cualquier modelo de texto disponible en tu cuenta. “”” api_key = os.getenv(“OPENAI_API_KEY”) si no api_key: print(“Establezca OPENAI_API_KEY para habilitar llamadas LLM. Saltar.”) return Ninguno cliente = OpenAI(api_key=api_key) resp = client.responses.create( modelo=modelo, entrada=[{“role”: “user”, “content”: prompt_text}]
) devuelve getattr(resp, “texto_salida”, Ninguno)

Supongamos que su modelo ya está entrenado, por lo que puede describir su configuración en inglés sencillo y enviarla a través de la plantilla de aviso.

En este caso, utilizaremos el mensaje de validación Walk-Forward para que el LLM genere un enfoque de validación sólido e ideas de código relacionadas para usted.

walk_forward_prompt = f””” Diseñar una estrategia de validación sólida para mi modelo de serie temporal: Tipo de modelo: ARIMA/Prophet/ML/Deep Learning (usamos SARIMAX con regresores exógenos) Conjunto de datos: Ventas minoristas sintéticas diarias; 730 filas del 2022-01-01 al 2024-12-31 Horizonte de pronóstico: 14 días Requisitos comerciales: precisión a corto plazo, cadencia de actualización semanal Enfoque de validación: 1. División de series de tiempo (sin mezcla aleatoria) 2. Análisis de ventana expandible versus ventana deslizante 3. Pruebas de orígenes de pronóstico múltiples 4. Consideraciones de validación estacional 5. Selección de métricas de rendimiento: – Dependiente de la escala: MAE, MSE, RMSE – Errores porcentuales: MAPE, sMAPE – Errores escalados: MASE – Precisión distributiva: CRPS Proporcionar implementación de Python para: – Divisores de validación cruzada – Funciones de cálculo de métricas – Comparación de rendimiento entre pliegues de validación – Pruebas de significancia estadística para comparación de modelos “”” wf_advice = Ask_llm(walk_forward_prompt) print(wf_advice o “(llamada LLM omitida)”)

Una vez que ejecute esta celda, la respuesta del LLM aparecerá directamente en su cuaderno, generalmente como una breve guía o fragmento de código que puede copiar, adaptar y probar.

Es un flujo de trabajo simple, pero sorprendentemente poderoso: en lugar de cambiar de contexto entre documentación y experimentación, estás colocando el modelo directamente en tu cuaderno.

Puede repetir este mismo patrón con cualquiera de los mensajes anteriores, por ejemplo, cambiar el mensaje de diagnóstico integral del modelo para que el LLM interprete sus residuos o sugiera mejoras para su pronóstico.

4. Mejores prácticas y consejos avanzados

4.1 Estrategias de optimización rápida

Refinamiento rápido iterativo:

Comience con indicaciones básicas y vaya agregando complejidad gradualmente; no intente hacerlo perfecto al principio. Pruebe diferentes estructuras de indicaciones (juego de roles versus instrucción directa, etc.) Valide qué tan efectivas son las indicaciones con diferentes conjuntos de datos Utilice aprendizaje de pocas oportunidades con ejemplos relevantes Agregue conocimiento del dominio y contexto comercial, ¡siempre!

Con respecto a la eficiencia del token (si los costos son una preocupación):

Intente mantener un equilibrio entre la integridad de la información y el uso de tokens. Utilice enfoques basados ​​en parches para reducir el tamaño de entrada. Implemente el almacenamiento en caché rápido para patrones repetidos. Considere con su equipo las compensaciones entre precisión y costo computacional.

No olvide realizar muchos diagnósticos para que sus resultados sean confiables y siga perfeccionando sus indicaciones a medida que los datos y las preguntas comerciales evolucionan o cambian. Recuerde, este es un proceso iterativo en lugar de intentar alcanzar la perfección en el primer intento.

¡Gracias por leer!

👉 Obtenga la hoja de trucos completa cuando se suscriba a AI Automation Digest de Sara, que ayuda a los profesionales de la tecnología a automatizar el trabajo real con IA, todas las semanas. También obtendrá acceso a una biblioteca de herramientas de inteligencia artificial.

Ofrezco tutoría sobre crecimiento profesional y transición aquí.

Si quieres apoyar mi trabajo, puedes invitarme a mi café favorito: un capuchino.

Referencias

MingyuJ666/Pronóstico-de-series-temporales-con-LLM: [KDD Explore’24]Pronóstico de series temporales con LLM: comprensión y mejora de las capacidades del modelo

LLM para análisis predictivo y pronóstico de series de tiempo

Predicciones de series temporales más inteligentes con menos esfuerzo

Previsión de series temporales con LLM mediante descomposición y avisos basados ​​en parches

LLM en series de tiempo: transformando el análisis de datos en IA

kdd.org/exploration_files/p109-Time_Series_Forecasting_with_LLMs.pdf

You missed

NVIDIA lanza Nemotron-Labs-3-Puzzle-75B-A9B: un LLM MoE híbrido comprimido que ofrece un rendimiento de servidor 2,03 veces superior al rendimiento de usuario equivalente[0]Los modelos MoE híbridos grandes como Nemotron-3-Super son precisos pero costosos de mantener. Sus parámetros activos, caché KV y estado de Mamba limitan la cantidad de usuarios que puede contener un nodo a una determinada tasa de token por usuario. El equipo de IA de NVIDIA lanzó Nemotron-Labs-3-Puzzle-75B-A9B, una variante comprimida de Nemotron-3-Super. El modelo principal tiene 120,7 mil millones de parámetros totales y 12,8 mil millones activos. El modelo comprimido tiene 75,3 mil millones de parámetros totales y 9,3 mil millones de parámetros activos. El objetivo de implementación se solucionó antes de que comenzara la búsqueda de arquitectura. El objetivo uno era duplicar el rendimiento del servidor a 100 tokens por segundo por usuario. El objetivo dos eran 8 solicitudes simultáneas de 1 millón de tokens en un solo H100. Tres puntos de control en Hugging Face: BF16, FP8 y NVFP4. TL;DR Los 120,7B/12,8B activos se comprimen a 75,3B/9,3B activos, conservando el diseño híbrido de 88 bloques. El rendimiento total de 8xB200 aumenta de 1,60x a 2,14x con respecto a Super con NVFP4 coincidente y rendimiento de usuario coincidente. La simultaneidad de un solo token H100 de 1 millón va de 1 a 8, impulsada por una caída de peso de 70 GB a 44,5 GB. El rompecabezas iterativo supera al rompecabezas de un solo paso en 0,57 puntos promedio en el mismo objetivo de compresión. Arena-Hard-V2 (-4,2) y SWE-Bench (-2,6) son los costes reales; RULER y AA-LCR apenas se mueven. Nemotron-Labs-3-Puzzle-75B-A9B Nemotron-3-Super es un modelo híbrido Mamba-Transformer MoE. Puzzle-75B-A9B conserva exactamente el diseño del bloque principal. Tiene 88 bloques: 40 Mamba, 40 MoE y 8 bloques de atención. Lo que cambió es la capacidad dentro de esos bloques: CantidadSuperPuzzle-75B-A9BRatioParámetros totales120.7B75.3B62.4%Parámetros activos12.8B9.3B73.1%Tamaño de estado de Mamba SSM1289675%Tamaño intermedio experto enrutado MoE26881280-2688Media 59.9%Expertos enrutados activados por token224-18Media 50%Capacidad experta enrutada activa (relativo)100%8,7%-62,3%Media 30,9% El número de expertos enrutados, el tamaño de expertos compartido y el tamaño latente del MoE no cambian. Las capas de atención quedaron intactas. La razón declarada por la investigación propuesta es que Nemotron-3-Super ya es muy eficiente en cuanto a caché KV. Las capas de Mamba se podaron de manera uniforme, porque los marcos de inferencia no admiten un tamaño de estado SSM diferente por capa. https://arxiv.org/pdf/2607.04371 El resultado no es un profesor uniformemente reducido. La figura anterior muestra la asignación en profundidad. Puzzle conservó la capacidad en capas intermedias y tardías seleccionadas, y cortó con fuerza en otras partes. Punto de referencia y rendimiento La siguiente tabla informa el rendimiento total óptimo de Pareto en un único nodo 8xB200, con decodificación en un solo paso. Escenario (entrada/salida)Piso UTSuper (tok/s)Puzzle-75B-A9B (tok/s)Boost50K / 2K>= 1005,1288,2101.60x50K / 2K>= 1253,7846,4121.69x50K / 2K>= 1502,5324,5231.79x8K / 64K>= 10020,93942,6012.03x8K / 64K>= 12513,07427,9182.14x8K / 64K>= 1508,52218,0472.12x Ambos modelos se entregaron con pesos NVFP4 coincidentes, caché FP8 KV y estado Mamba FP16. Por lo tanto, la brecha refleja compresión, no un cambio en el formato numérico. El régimen 50K/2K con precarga pesada es el que menos gana. El régimen 8K/64K con gran decodificación es el que más gana. En un solo nodo 8xH100 en UT = 100, las ganancias son menores. Son 1,91x en 50K/2K y 1,82x en 8K/64K. Ambos modelos utilizan pesos FP8, caché FP8 KV y estado FP32 Mamba. En un único H100 en un contexto de 1M, la restricción de enlace pasa de la computación a la memoria. Los pesos NVFP4 de Super ocupan alrededor de 70 GB del presupuesto de 80 GB de HBM. Cada solicitud de token de 1 millón agrega aproximadamente 4 GB de caché KV. Por tanto, la concurrencia efectiva es 1. El peso NVFP4 del Puzzle-75B-A9B ocupa alrededor de 44,5 GB. El diseño de atención no cambia, por lo que el costo de KV por solicitud no cambia. La simultaneidad en 1M aumenta a 8. El rendimiento de decodificación agregado en esa simultaneidad es aproximadamente 4 veces el rendimiento de solicitud única de Super. El llenado previo de una solicitud de 990 000 tokens es aproximadamente 1,2 veces más rápido. Cómo funciona el rompecabezas iterativo Puzzle es un marco de búsqueda de arquitectura neuronal descompuesta, implementado aquí como Puzzletron. Define un espacio de búsqueda discreto de implementaciones de capas alternativas. Cada alternativa obtiene una puntuación de calidad. Luego, un programa de enteros mixtos selecciona una alternativa por capa bajo una restricción de implementación. Tres técnicas de poda forman el espacio de búsqueda: Poda de canales intermedios: los canales dentro de cada experto enrutado se clasifican según su contribución a la salida del experto. Todos los expertos dentro de una capa MoE se reducen a un tamaño uniforme para lograr compatibilidad con el kernel. Reducción de top-k: la cantidad de expertos a los que se enruta un token varía según la capa, hasta el k = 22 del padre. Poda de Mamba SSM: el tamaño del estado de SSM cae de 128 a 96 canales. Se mide el resultado del SSM. Bajar 128 canales a 96 acelera el kernel SSM de 1,2x a 1,3x durante la decodificación. Esto se mantiene en tamaños de lote entre 8 y 512. Los canales se clasificaron según su contribución estimada a la producción de la capa Mamba. La estimación promedió más de 67 millones de tokens de datos de validación. El Apéndice A muestra que esto supera la selección aleatoria de canales bajo una poda agresiva. La formulación original asume que los impactos en la calidad del reemplazo son aproximadamente aditivos. Cada bloque candidato se puntúa dentro del padre no modificado. Eso ignora las interacciones de orden superior entre reemplazos. Iterative Puzzle alterna la compresión limitada con una breve recuperación de destilación de conocimientos. Construye una secuencia M0, M1,… MR en lugar de saltar al objetivo. Las puntuaciones se vuelven a calcular con respecto al modelo comprimido actual, no al modelo original. Se utilizaron tres etapas: El Ministerio de Educación pondera el 75% de la capacidad docente, el estado de Mamba SSM el 75%. Curado por 24 mil millones de fichas. El Ministerio de Educación pondera el 60% de la capacidad docente. Curado por 43,2 mil millones de tokens. Se activó el presupuesto de expertos encaminado al 50%, asignado de forma heterogénea. Curado por 52,8 mil millones de tokens. https://arxiv.org/pdf/2607.04371 La tabla anterior compara esto con una línea base de Puzzle de un solo paso en el mismo objetivo. El procedimiento de tres pasos tiene un promedio de 69,05 en diez puntos de referencia, frente a 68,48. Las ganancias aparecen en MMLU-Pro, GPQA, HLE, AA-LCR, LiveCodeBench, SciCode y RULER-256K. IFBench-Instruction cayó 0,2 puntos y IFBench-Prompt cayó 0,5. Recuperación: destilación, RL y verbosidad La destilación de conocimientos se ejecutó con un 30 % de datos de preentrenamiento y un 70 % de datos SFT de Nemotron-3-Nano. Durante la fase de rompecabezas, KD utilizó una secuencia de 32K de longitud. Luego, Recovery entrenó a 128K y escaló a 512K. El presupuesto era de hasta 100 mil millones de tokens, con un lote global de 16 millones de tokens, en Megatron-LM. La capacitación posterior de RL adoptó la Etapa 2 del proceso Nemotron-3-Super RL, centrada en la ingeniería de software. La fase 2.1 realizó una comparación del uso de herramientas en un solo paso. La fase 2.2 pasó a la zona de pruebas RL de extremo a extremo, donde los agentes corren hasta 200 turnos. Ambas fases utilizaron una penalización de KL de 0. El equipo barrió las tasas de aprendizaje y luego promedió los pesos resultantes. https://arxiv.org/pdf/2607.04371 La Figura 4 anterior muestra lo que aportó cada etapa. KD de contexto corto recupera la mayoría de las categorías a más del 97% de Nemotron-3-Super. Luego, KD de contexto largo eleva específicamente los puntos de referencia de entrada larga y de generación larga. El equipo de investigación afirma que el impacto de RL en estos experimentos fue pequeño. La verbosidad es el detalle silencioso. Después de la última iteración de Puzzle, el modelo generó el 132% del recuento de tokens de Super. Eso cayó al 99% después del proceso de recuperación total. Implementación: cuantificación y predicción de tokens múltiples Se produjeron dos recetas de cuantificación posteriores al entrenamiento: FP8 W8A8 apunta a Hopper y NVFP4 W4A4 apunta a Blackwell. Componente Línea base BF16 Punto de control FP8 Punto de control NVFP4 GEMM MoE dispersos y compartidos BF16FP8NVFP4 Mamba GEMM BF16FP8FP8 Mamba Caché SSM FP32FP32FP16 + Caché SRKV FP8FP8FP8 Enrutador FP32FP32FP32 Atención QKV/salida, proyecciones latentes MoE, LM cabezaBF16BF16BF16 Ambas recetas se calibraron en 256 muestras SFT posteriores al entrenamiento. NVFP4 utilizó la calibración máxima, no la búsqueda de sensibilidad AutoQuantize utilizada para Super. El punto de control resultante se cuantifica de forma ligeramente más agresiva y se realiza de manera similar. NVFP4 no es compatible de forma nativa con Hopper. Todavía se utiliza para el objetivo H100 de contexto 1M, porque la capacidad de HBM se vincula allí. Puzzle-75B-A9B hereda un cabezal MTP compartido de Super. Los parámetros se comparten entre los pasos de MTP, por lo que un cabezal se aplica de forma recursiva en la inferencia. La transferencia directa de la cabeza entrenada de Super dio longitudes de aceptación similares. Luego, el equipo de investigación identifica una discrepancia entre el entrenamiento y la inferencia. El entrenamiento MTP forzado por el maestro alimenta la secuencia completa de estados ocultos desplazados. En cambio, la redacción autorregresiva alimenta una combinación de modelos de destino y estados ocultos generados por MTP. Las tasas de aceptación caen en posiciones de draft más profundas. Esto se soluciona mediante una formación continua de la cabeza transferida. En SPEED-Bench con una longitud de calado 7, la longitud media de aceptación aumentó de 3,45 a 4,34. Eso es aproximadamente entre el 25% y el 30%, concentrado en puestos posteriores del draft. A diferencia de Super, el punto de control NVFP4 apenas se degrada: 4,31 frente a 4,34. Dónde ayuda la compresión y dónde duele Benchmark (BF16)SuperPuzzle-75B-A9BDeltaMMLU-Pro83.882.4-1.4AIME25 (sin herramientas)92.289.7-2.5GPQA (sin herramientas)80.578.6-1.9LiveCodeBench82.181.1-1.0SciCode (subtarea)42.340.6-1.7SWE-Bench (OpenHands)59.556.9-2.6Arena-Hard-V272.868.6-4.2AA-LCR56.856.9+0.1REGLA 1M93.992.2-1.7MMLU-ProX79.577.5-2.0 El propio resumen del artículo de investigación es que el seguimiento de instrucciones y las evaluaciones agentes son las que más pierden. Arena-Hard-V2 es el peor de los casos, con -4,2 puntos. RULER se mantiene dentro de aproximadamente 1 a 2 puntos en 256K, 512K y 1M. Tres resultados de BF16 no retroceden. AA-LCR gana 0,1, Scale AI Multi-Challenge empata en 56,6 y TauBench Telecom gana 0,4. NVFP4 cuesta poco además de la compresión. En RULER 1M, el punto de control NVFP4 obtiene una puntuación de 93,2, por encima del 92,2 de BF16. HLE es el costo de NVFP4 más claro, cayendo de 16,5 a 15,7. Los resultados del 8PM se encuentran en el Apéndice E y siguen de cerca al BF16. SWE-Bench no está incluido en el punto de control del 8PM. Casos de uso RAG de contexto ultralargo en una GPU: un servicio de análisis de documentos en un contexto de 1 millón pasa de 1 solicitud simultánea a 8. El rendimiento de decodificación agregado en esa concurrencia es aproximadamente 4 veces mayor. Asistentes de codificación interactivos: en UT >= 100 tok/s en el régimen 8K/64K, un nodo sirve 2,03 veces los tokens. Ajustado por detalle, es decir, 2,16 veces las solicitudes completadas por minuto. Canalizaciones de documentos con gran cantidad de precarga: el régimen de 50.000/2.000 gana solo 1,60 veces. La compresión ayuda menos cuando el procesamiento rápido domina la computación. Bucles SWE agentes: verifique la brecha SWE-Bench de 2,6 puntos con su combinación de tareas. La recuperación de RL apuntó a esta capacidad y solo la restauró parcialmente. Explorador de implementación ‘+esc(r