StepFun AI presenta Step-DeepResearch: un modelo de agente de investigación profunda rentable creado en torno a capacidades atómicas

StepFun ha presentado Step-DeepResearch, un agente de investigación profunda de extremo a extremo con parámetros 32B que tiene como objetivo convertir la búsqueda web en flujos de trabajo de investigación reales con razonamiento a largo plazo, uso de herramientas e informes estructurados. El modelo se basa en Qwen2.5 32B-Base y está capacitado para actuar como un agente único que planifica, explora fuentes, verifica evidencia y escribe informes con citas, manteniendo bajo el costo de inferencia.

De la búsqueda a la investigación profunda

La mayoría de los agentes web existentes están optimizados para puntos de referencia de respuesta a preguntas de múltiples saltos. Intentan hacer coincidir las respuestas reales de las preguntas breves. Esto está más cerca de una recuperación selectiva que de una investigación real. Las tareas de investigación profunda son diferentes. Implican el reconocimiento de intenciones latentes, la toma de decisiones a largo plazo, el uso de herramientas en múltiples turnos, el razonamiento estructurado y la verificación de fuentes cruzadas en condiciones de incertidumbre.

Step-DeepResearch reformula esto como una toma de decisiones secuencial sobre un conjunto compacto de capacidades atómicas. El equipo de investigación define 4 capacidades atómicas, planificación y descomposición de tareas, búsqueda de información profunda, reflexión y verificación, y generación de informes profesionales. En lugar de orquestar muchos agentes externos, el sistema internaliza este bucle en un modelo único que decide la siguiente acción en cada paso.

Síntesis de datos sobre capacidades atómicas

Para enseñar estas capacidades atómicas, el equipo de investigación crea canales de datos separados para cada habilidad. Para la planificación, parten de informes técnicos de alta calidad, trabajos de encuesta y documentos de análisis financiero. Realizan ingeniería inversa de planes de investigación realistas y árboles de tareas a partir de títulos, resúmenes y estructuras, y luego generan trayectorias que siguen estos planes. Esto expone el modelo a estructuras de proyectos de largo plazo, no sólo a plantillas de preguntas cortas.

Para una búsqueda profunda de información, construyen consultas basadas en gráficos sobre gráficos de conocimiento como Wikidata5m y CN-DBpedia. Muestran subgrafos, los amplían mediante la búsqueda y sintetizan preguntas que requieren un razonamiento de múltiples saltos entre entidades y documentos. Un canal separado utiliza un índice de hipervínculo estilo Wiki para forzar la recuperación de documentos cruzados y la combinación de evidencia. Las preguntas fáciles que un modelo sólido ya puede resolver con una estrategia simple de estilo ReAct se filtran, por lo que la capacitación se centra en problemas de búsqueda difíciles.

Los datos de reflexión y verificación se generan a través de bucles de autocorrección y rastros docentes de múltiples agentes. Los agentes docentes extraen afirmaciones, planifican verificaciones, verifican hechos, replanifican si aparecen inconsistencias y solo entonces redactan informes. Las trayectorias resultantes se limpian y se utilizan como supervisión para un único agente estudiante. La generación de informes se entrena en 2 fases, la mitad del entrenamiento para el estilo y la profundidad del dominio utilizando pares de informes de consulta, luego se supervisa el ajuste con restricciones estrictas de formato y coherencia del plan.

Entrenamiento progresivo en Qwen2.5-32B-Base

El proceso de capacitación tiene 3 etapas: capacitación intermedia agente, ajuste supervisado y aprendizaje de refuerzo. En la etapa 1 del entrenamiento intermedio, el equipo inyecta capacidades atómicas sin herramientas, utilizando una longitud de contexto de hasta 32 000 tokens. Los datos cubren lectura activa, rastros de razonamiento sintético, resumen y reflexión. El equipo de investigación muestra ganancias constantes en SimpleQA, TriviaQA y FRAMES a medida que el entrenamiento aumenta hasta aproximadamente 150 mil millones de tokens, con las mayores ganancias en FRAMES, que enfatiza el razonamiento estructurado.

En la etapa 2, el contexto se extiende a 128.000 tokens y se introducen llamadas explícitas a herramientas. El modelo aprende tareas como respuesta a preguntas basadas en URL, búsqueda web profunda, resúmenes de documentos extensos y razonamiento de diálogos extensos. Esta etapa alinea el modelo con escenarios de investigación reales donde la búsqueda, la navegación y el análisis deben combinarse en una sola trayectoria.

Durante el ajuste fino supervisado, las cuatro capacidades atómicas se componen en búsqueda profunda completa y rastros de investigación profunda. La limpieza de datos mantiene trayectorias correctas y cortas en términos de pasos y llamadas a herramientas. El canal inyecta errores controlados en las herramientas seguidos de correcciones para mejorar la solidez y aplica formatos de citas para que los informes se mantengan basados ​​en las fuentes recuperadas.

Luego, el aprendizaje por refuerzo optimiza el agente en un entorno de herramientas real. El equipo de investigación crea tareas y listas de verificación mediante síntesis inversa y entrena un juez de rúbricas estilo lista de verificación para calificar informes según dimensiones detalladas. El diseño de recompensa convierte etiquetas de rúbricas ternarias en recompensas binarias asimétricas que capturan tanto objetivos positivos como violaciones. La política se entrena con PPO y un crítico erudito, utilizando una estimación de ventaja generalizada con un descuento cercano a cero para que las trayectorias largas no se trunquen.

Arquitectura de ReAct de agente único y pila de búsqueda

En el momento de la inferencia, Step-DeepResearch se ejecuta como un único agente de estilo ReAct que alterna pensamiento, llamadas a herramientas y observaciones hasta que decide generar un informe. El conjunto de herramientas incluye búsqueda web por lotes, un administrador de tareas pendientes, comandos de shell y operaciones de archivos. La ejecución se ejecuta en un entorno limitado con persistencia de terminal a través de tmux. Un navegador orientado a la percepción reduce las capturas de páginas redundantes mediante el uso de una distancia de hash perceptual. Las herramientas para el análisis de documentos, la transcripción de audio y el análisis de imágenes admiten entradas multimodales.

La adquisición de información utiliza 2 recursos relacionados. El equipo de StepFun afirma que su API de búsqueda se basa en más de 20 millones de artículos de alta calidad y 600 índices premium. Luego, el equipo de investigación describe una estrategia de indexación de autoridades seleccionada que aísla más de 600 dominios confiables, incluidos sitios gubernamentales, académicos e institucionales. La recuperación opera a nivel de párrafo y utiliza una clasificación consciente de la autoridad, de modo que se prefieren los dominios de alta confianza cuando la relevancia es similar.

Las herramientas de archivos admiten la edición basada en parches, por lo que el agente solo puede actualizar las secciones modificadas de un informe. Un esquema de almacenamiento con reconocimiento de resúmenes escribe los resultados completos de las herramientas en archivos locales e inyecta solo resúmenes compactos en el contexto. Esto actúa como memoria externa y evita el desbordamiento de contexto para proyectos largos.

Evaluación, Costo y Acceso

Para medir el comportamiento de investigación profunda, el equipo presenta ADR-Bench, un punto de referencia chino con 110 tareas abiertas en 9 dominios. 70 tareas cubren dominios generales como educación, ciencia e ingeniería y vida social, evaluadas mediante comparaciones de expertos lado a lado. 40 tareas en finanzas y derecho se califican con rúbricas explícitas que siguen restricciones de atomicidad y verificabilidad.

En las rúbricas de investigación de IA a escala, Step-DeepResearch alcanza un 61,42 por ciento de cumplimiento de la rúbrica, lo que es comparable a OpenAI-DeepResearch y Gemini-DeepResearch, y claramente por delante de múltiples líneas de base abiertas y patentadas. En ADR-Bench, las calificaciones de Elo basadas en expertos muestran que el modelo 32B supera a los modelos abiertos más grandes como MiniMax-M2, GLM-4.6 y DeepSeek-V3.2, y es competitivo con sistemas como Kimi-Researcher y MiniMax-Agent-Pro.

Conclusiones clave

Diseño de capacidad atómica de agente único: Step-DeepResearch es un agente único de parámetros 32B construido sobre Qwen2.-32B-Base, internaliza 4 capacidades atómicas, planificación, búsqueda de información profunda, reflexión y verificación, y generación de informes profesionales, en lugar de depender de muchos agentes externos. Síntesis de datos específicos para cada habilidad: el equipo de investigación crea canales de datos separados para la planificación, la búsqueda profunda de información, la reflexión y la redacción de informes, utilizando planes de ingeniería inversa a partir de informes reales, consultas basadas en gráficos a través de Wikidata5m y CN-DBpedia, seguimientos de maestros de múltiples agentes y datos de formato de informes estrictos. Capacitación en tres etapas con contexto largo y RL: la capacitación utiliza capacitación intermedia, ajuste fino supervisado y aprendizaje de refuerzo, con capacitación intermedia de hasta 150 mil millones de tokens en contexto de 32k y luego de 128k, SFT compone trayectorias de investigación profundas y completas, y RL basado en PPO con un juez de rúbricas optimiza los informes comparándolos con listas de verificación detalladas. Arquitectura ReAct con búsqueda seleccionada y memoria externa: en el momento de la inferencia, el modelo ejecuta un bucle ReAct que llama a herramientas para búsqueda web por lotes, operaciones de tareas pendientes, shell y archivos, utiliza una API de búsqueda basada en más de 20 millones de artículos y 600 índices premium junto con más de 600 dominios confiables, y se basa en la edición de parches y el almacenamiento con reconocimiento de resúmenes para actuar como memoria externa. Calidad competitiva con menor costo: en las rúbricas de investigación de IA a escala, el modelo alcanza un cumplimiento de la rúbrica del 61,42 por ciento y es competitivo con OpenAI-DeepResearch y Gemini-DeepResearch, en ADR Bench logra una tasa de victoria o empate del 67,1 por ciento frente a líneas de base sólidas.

Consulte el documento y el repositorio. Además, no dude en seguirnos en Twitter y no olvide unirse a nuestro SubReddit de más de 100.000 ML y suscribirse a nuestro boletín. ¡Esperar! estas en telegrama? Ahora también puedes unirte a nosotros en Telegram.

You missed

NVIDIA lanza Nemotron-Labs-3-Puzzle-75B-A9B: un LLM MoE híbrido comprimido que ofrece un rendimiento de servidor 2,03 veces superior al rendimiento de usuario equivalente[0]Los modelos MoE híbridos grandes como Nemotron-3-Super son precisos pero costosos de mantener. Sus parámetros activos, caché KV y estado de Mamba limitan la cantidad de usuarios que puede contener un nodo a una determinada tasa de token por usuario. El equipo de IA de NVIDIA lanzó Nemotron-Labs-3-Puzzle-75B-A9B, una variante comprimida de Nemotron-3-Super. El modelo principal tiene 120,7 mil millones de parámetros totales y 12,8 mil millones activos. El modelo comprimido tiene 75,3 mil millones de parámetros totales y 9,3 mil millones de parámetros activos. El objetivo de implementación se solucionó antes de que comenzara la búsqueda de arquitectura. El objetivo uno era duplicar el rendimiento del servidor a 100 tokens por segundo por usuario. El objetivo dos eran 8 solicitudes simultáneas de 1 millón de tokens en un solo H100. Tres puntos de control en Hugging Face: BF16, FP8 y NVFP4. TL;DR Los 120,7B/12,8B activos se comprimen a 75,3B/9,3B activos, conservando el diseño híbrido de 88 bloques. El rendimiento total de 8xB200 aumenta de 1,60x a 2,14x con respecto a Super con NVFP4 coincidente y rendimiento de usuario coincidente. La simultaneidad de un solo token H100 de 1 millón va de 1 a 8, impulsada por una caída de peso de 70 GB a 44,5 GB. El rompecabezas iterativo supera al rompecabezas de un solo paso en 0,57 puntos promedio en el mismo objetivo de compresión. Arena-Hard-V2 (-4,2) y SWE-Bench (-2,6) son los costes reales; RULER y AA-LCR apenas se mueven. Nemotron-Labs-3-Puzzle-75B-A9B Nemotron-3-Super es un modelo híbrido Mamba-Transformer MoE. Puzzle-75B-A9B conserva exactamente el diseño del bloque principal. Tiene 88 bloques: 40 Mamba, 40 MoE y 8 bloques de atención. Lo que cambió es la capacidad dentro de esos bloques: CantidadSuperPuzzle-75B-A9BRatioParámetros totales120.7B75.3B62.4%Parámetros activos12.8B9.3B73.1%Tamaño de estado de Mamba SSM1289675%Tamaño intermedio experto enrutado MoE26881280-2688Media 59.9%Expertos enrutados activados por token224-18Media 50%Capacidad experta enrutada activa (relativo)100%8,7%-62,3%Media 30,9% El número de expertos enrutados, el tamaño de expertos compartido y el tamaño latente del MoE no cambian. Las capas de atención quedaron intactas. La razón declarada por la investigación propuesta es que Nemotron-3-Super ya es muy eficiente en cuanto a caché KV. Las capas de Mamba se podaron de manera uniforme, porque los marcos de inferencia no admiten un tamaño de estado SSM diferente por capa. https://arxiv.org/pdf/2607.04371 El resultado no es un profesor uniformemente reducido. La figura anterior muestra la asignación en profundidad. Puzzle conservó la capacidad en capas intermedias y tardías seleccionadas, y cortó con fuerza en otras partes. Punto de referencia y rendimiento La siguiente tabla informa el rendimiento total óptimo de Pareto en un único nodo 8xB200, con decodificación en un solo paso. Escenario (entrada/salida)Piso UTSuper (tok/s)Puzzle-75B-A9B (tok/s)Boost50K / 2K>= 1005,1288,2101.60x50K / 2K>= 1253,7846,4121.69x50K / 2K>= 1502,5324,5231.79x8K / 64K>= 10020,93942,6012.03x8K / 64K>= 12513,07427,9182.14x8K / 64K>= 1508,52218,0472.12x Ambos modelos se entregaron con pesos NVFP4 coincidentes, caché FP8 KV y estado Mamba FP16. Por lo tanto, la brecha refleja compresión, no un cambio en el formato numérico. El régimen 50K/2K con precarga pesada es el que menos gana. El régimen 8K/64K con gran decodificación es el que más gana. En un solo nodo 8xH100 en UT = 100, las ganancias son menores. Son 1,91x en 50K/2K y 1,82x en 8K/64K. Ambos modelos utilizan pesos FP8, caché FP8 KV y estado FP32 Mamba. En un único H100 en un contexto de 1M, la restricción de enlace pasa de la computación a la memoria. Los pesos NVFP4 de Super ocupan alrededor de 70 GB del presupuesto de 80 GB de HBM. Cada solicitud de token de 1 millón agrega aproximadamente 4 GB de caché KV. Por tanto, la concurrencia efectiva es 1. El peso NVFP4 del Puzzle-75B-A9B ocupa alrededor de 44,5 GB. El diseño de atención no cambia, por lo que el costo de KV por solicitud no cambia. La simultaneidad en 1M aumenta a 8. El rendimiento de decodificación agregado en esa simultaneidad es aproximadamente 4 veces el rendimiento de solicitud única de Super. El llenado previo de una solicitud de 990 000 tokens es aproximadamente 1,2 veces más rápido. Cómo funciona el rompecabezas iterativo Puzzle es un marco de búsqueda de arquitectura neuronal descompuesta, implementado aquí como Puzzletron. Define un espacio de búsqueda discreto de implementaciones de capas alternativas. Cada alternativa obtiene una puntuación de calidad. Luego, un programa de enteros mixtos selecciona una alternativa por capa bajo una restricción de implementación. Tres técnicas de poda forman el espacio de búsqueda: Poda de canales intermedios: los canales dentro de cada experto enrutado se clasifican según su contribución a la salida del experto. Todos los expertos dentro de una capa MoE se reducen a un tamaño uniforme para lograr compatibilidad con el kernel. Reducción de top-k: la cantidad de expertos a los que se enruta un token varía según la capa, hasta el k = 22 del padre. Poda de Mamba SSM: el tamaño del estado de SSM cae de 128 a 96 canales. Se mide el resultado del SSM. Bajar 128 canales a 96 acelera el kernel SSM de 1,2x a 1,3x durante la decodificación. Esto se mantiene en tamaños de lote entre 8 y 512. Los canales se clasificaron según su contribución estimada a la producción de la capa Mamba. La estimación promedió más de 67 millones de tokens de datos de validación. El Apéndice A muestra que esto supera la selección aleatoria de canales bajo una poda agresiva. La formulación original asume que los impactos en la calidad del reemplazo son aproximadamente aditivos. Cada bloque candidato se puntúa dentro del padre no modificado. Eso ignora las interacciones de orden superior entre reemplazos. Iterative Puzzle alterna la compresión limitada con una breve recuperación de destilación de conocimientos. Construye una secuencia M0, M1,… MR en lugar de saltar al objetivo. Las puntuaciones se vuelven a calcular con respecto al modelo comprimido actual, no al modelo original. Se utilizaron tres etapas: El Ministerio de Educación pondera el 75% de la capacidad docente, el estado de Mamba SSM el 75%. Curado por 24 mil millones de fichas. El Ministerio de Educación pondera el 60% de la capacidad docente. Curado por 43,2 mil millones de tokens. Se activó el presupuesto de expertos encaminado al 50%, asignado de forma heterogénea. Curado por 52,8 mil millones de tokens. https://arxiv.org/pdf/2607.04371 La tabla anterior compara esto con una línea base de Puzzle de un solo paso en el mismo objetivo. El procedimiento de tres pasos tiene un promedio de 69,05 en diez puntos de referencia, frente a 68,48. Las ganancias aparecen en MMLU-Pro, GPQA, HLE, AA-LCR, LiveCodeBench, SciCode y RULER-256K. IFBench-Instruction cayó 0,2 puntos y IFBench-Prompt cayó 0,5. Recuperación: destilación, RL y verbosidad La destilación de conocimientos se ejecutó con un 30 % de datos de preentrenamiento y un 70 % de datos SFT de Nemotron-3-Nano. Durante la fase de rompecabezas, KD utilizó una secuencia de 32K de longitud. Luego, Recovery entrenó a 128K y escaló a 512K. El presupuesto era de hasta 100 mil millones de tokens, con un lote global de 16 millones de tokens, en Megatron-LM. La capacitación posterior de RL adoptó la Etapa 2 del proceso Nemotron-3-Super RL, centrada en la ingeniería de software. La fase 2.1 realizó una comparación del uso de herramientas en un solo paso. La fase 2.2 pasó a la zona de pruebas RL de extremo a extremo, donde los agentes corren hasta 200 turnos. Ambas fases utilizaron una penalización de KL de 0. El equipo barrió las tasas de aprendizaje y luego promedió los pesos resultantes. https://arxiv.org/pdf/2607.04371 La Figura 4 anterior muestra lo que aportó cada etapa. KD de contexto corto recupera la mayoría de las categorías a más del 97% de Nemotron-3-Super. Luego, KD de contexto largo eleva específicamente los puntos de referencia de entrada larga y de generación larga. El equipo de investigación afirma que el impacto de RL en estos experimentos fue pequeño. La verbosidad es el detalle silencioso. Después de la última iteración de Puzzle, el modelo generó el 132% del recuento de tokens de Super. Eso cayó al 99% después del proceso de recuperación total. Implementación: cuantificación y predicción de tokens múltiples Se produjeron dos recetas de cuantificación posteriores al entrenamiento: FP8 W8A8 apunta a Hopper y NVFP4 W4A4 apunta a Blackwell. Componente Línea base BF16 Punto de control FP8 Punto de control NVFP4 GEMM MoE dispersos y compartidos BF16FP8NVFP4 Mamba GEMM BF16FP8FP8 Mamba Caché SSM FP32FP32FP16 + Caché SRKV FP8FP8FP8 Enrutador FP32FP32FP32 Atención QKV/salida, proyecciones latentes MoE, LM cabezaBF16BF16BF16 Ambas recetas se calibraron en 256 muestras SFT posteriores al entrenamiento. NVFP4 utilizó la calibración máxima, no la búsqueda de sensibilidad AutoQuantize utilizada para Super. El punto de control resultante se cuantifica de forma ligeramente más agresiva y se realiza de manera similar. NVFP4 no es compatible de forma nativa con Hopper. Todavía se utiliza para el objetivo H100 de contexto 1M, porque la capacidad de HBM se vincula allí. Puzzle-75B-A9B hereda un cabezal MTP compartido de Super. Los parámetros se comparten entre los pasos de MTP, por lo que un cabezal se aplica de forma recursiva en la inferencia. La transferencia directa de la cabeza entrenada de Super dio longitudes de aceptación similares. Luego, el equipo de investigación identifica una discrepancia entre el entrenamiento y la inferencia. El entrenamiento MTP forzado por el maestro alimenta la secuencia completa de estados ocultos desplazados. En cambio, la redacción autorregresiva alimenta una combinación de modelos de destino y estados ocultos generados por MTP. Las tasas de aceptación caen en posiciones de draft más profundas. Esto se soluciona mediante una formación continua de la cabeza transferida. En SPEED-Bench con una longitud de calado 7, la longitud media de aceptación aumentó de 3,45 a 4,34. Eso es aproximadamente entre el 25% y el 30%, concentrado en puestos posteriores del draft. A diferencia de Super, el punto de control NVFP4 apenas se degrada: 4,31 frente a 4,34. Dónde ayuda la compresión y dónde duele Benchmark (BF16)SuperPuzzle-75B-A9BDeltaMMLU-Pro83.882.4-1.4AIME25 (sin herramientas)92.289.7-2.5GPQA (sin herramientas)80.578.6-1.9LiveCodeBench82.181.1-1.0SciCode (subtarea)42.340.6-1.7SWE-Bench (OpenHands)59.556.9-2.6Arena-Hard-V272.868.6-4.2AA-LCR56.856.9+0.1REGLA 1M93.992.2-1.7MMLU-ProX79.577.5-2.0 El propio resumen del artículo de investigación es que el seguimiento de instrucciones y las evaluaciones agentes son las que más pierden. Arena-Hard-V2 es el peor de los casos, con -4,2 puntos. RULER se mantiene dentro de aproximadamente 1 a 2 puntos en 256K, 512K y 1M. Tres resultados de BF16 no retroceden. AA-LCR gana 0,1, Scale AI Multi-Challenge empata en 56,6 y TauBench Telecom gana 0,4. NVFP4 cuesta poco además de la compresión. En RULER 1M, el punto de control NVFP4 obtiene una puntuación de 93,2, por encima del 92,2 de BF16. HLE es el costo de NVFP4 más claro, cayendo de 16,5 a 15,7. Los resultados del 8PM se encuentran en el Apéndice E y siguen de cerca al BF16. SWE-Bench no está incluido en el punto de control del 8PM. Casos de uso RAG de contexto ultralargo en una GPU: un servicio de análisis de documentos en un contexto de 1 millón pasa de 1 solicitud simultánea a 8. El rendimiento de decodificación agregado en esa concurrencia es aproximadamente 4 veces mayor. Asistentes de codificación interactivos: en UT >= 100 tok/s en el régimen 8K/64K, un nodo sirve 2,03 veces los tokens. Ajustado por detalle, es decir, 2,16 veces las solicitudes completadas por minuto. Canalizaciones de documentos con gran cantidad de precarga: el régimen de 50.000/2.000 gana solo 1,60 veces. La compresión ayuda menos cuando el procesamiento rápido domina la computación. Bucles SWE agentes: verifique la brecha SWE-Bench de 2,6 puntos con su combinación de tareas. La recuperación de RL apuntó a esta capacidad y solo la restauró parcialmente. Explorador de implementación ‘+esc(r