La IA ayuda a los robots domésticos a reducir el tiempo de planificación a la mitad |  Noticias del MIT

Te entregan tu nuevo robot doméstico en tu casa y le pides que te prepare una taza de café. Aunque conoce algunas habilidades básicas de prácticas anteriores en cocinas simuladas, hay demasiadas acciones que podría realizar: abrir el grifo, tirar de la cadena del inodoro, vaciar el recipiente de harina, etc. Pero hay una pequeña cantidad de acciones que podrían resultar útiles. ¿Cómo puede el robot descubrir qué pasos son sensatos en una nueva situación?

Podría utilizar PIGINet, un nuevo sistema que tiene como objetivo mejorar de manera eficiente las capacidades de resolución de problemas de los robots domésticos. Investigadores del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT están utilizando el aprendizaje automático para reducir el típico proceso iterativo de planificación de tareas que considera todas las acciones posibles. PIGINet elimina los planes de tareas que no pueden satisfacer los requisitos libres de colisiones y reduce el tiempo de planificación entre un 50 y un 80 por ciento cuando se entrena en solo 300 a 500 problemas.

Normalmente, los robots intentan varios planes de tareas y refinan iterativamente sus movimientos hasta que encuentran una solución viable, lo que puede resultar ineficiente y consumir mucho tiempo, especialmente cuando hay obstáculos móviles y articulados. Quizás después de cocinar, por ejemplo, quieras guardar todas las salsas en el armario. Ese problema podría requerir de dos a ocho pasos dependiendo de cómo se vea el mundo en ese momento. ¿El robot necesita abrir varias puertas del gabinete o hay obstáculos dentro del gabinete que deben reubicarse para hacer espacio? No querrás que tu robot sea irritantemente lento, y será peor si quema la cena mientras piensa.

Generalmente se piensa que los robots domésticos siguen recetas predefinidas para realizar tareas, lo que no siempre es adecuado para entornos diversos o cambiantes. Entonces, ¿cómo evita PIGINet esas reglas predefinidas? PIGINet es una red neuronal que toma “planes, imágenes, objetivos y hechos iniciales” y luego predice la probabilidad de que un plan de tarea pueda perfeccionarse para encontrar planes de movimiento factibles. En términos simples, emplea un codificador transformador, un modelo versátil y de última generación diseñado para operar con secuencias de datos. La secuencia de entrada, en este caso, es información sobre qué plan de tarea se está considerando, imágenes del entorno y codificaciones simbólicas del estado inicial y el objetivo deseado. El codificador combina los planes de tareas, imágenes y texto para generar una predicción sobre la viabilidad del plan de tareas seleccionado.

Manteniendo las cosas en la cocina, el equipo creó cientos de entornos simulados, cada uno con diferentes diseños y tareas específicas que requieren que los objetos se reorganicen entre encimeras, refrigeradores, gabinetes, fregaderos y ollas. Al medir el tiempo necesario para resolver problemas, compararon PIGINet con enfoques anteriores. Un plan de tareas correcto puede incluir abrir la puerta izquierda del refrigerador, quitar la tapa de una olla, mover el repollo de la olla al refrigerador, mover una papa al refrigerador, recoger la botella del fregadero, colocar la botella en el fregadero, recoger la tomate, o colocando el tomate. PIGINet redujo significativamente el tiempo de planificación en un 80 por ciento en escenarios más simples y entre un 20 y un 50 por ciento en escenarios más complejos que tienen secuencias de planificación más largas y menos datos de entrenamiento.

“Los sistemas como PIGINet, que utilizan el poder de los métodos basados ​​en datos para manejar casos familiares de manera eficiente, pero aún pueden recurrir a métodos de planificación de “primeros principios” para verificar sugerencias basadas en el aprendizaje y resolver problemas novedosos, ofrecen lo mejor de ambos. mundos, proporcionando soluciones confiables y eficientes de uso general para una amplia variedad de problemas”, dice Leslie Pack Kaelbling, profesora del MIT e investigadora principal de CSAIL.

El uso de incrustaciones multimodales por parte de PIGINet en la secuencia de entrada permitió una mejor representación y comprensión de relaciones geométricas complejas. El uso de datos de imágenes ayudó al modelo a captar disposiciones espaciales y configuraciones de objetos sin conocer las mallas 3D del objeto para una verificación precisa de colisiones, lo que permitió una rápida toma de decisiones en diferentes entornos.

Uno de los principales desafíos que se enfrentaron durante el desarrollo de PIGINet fue la escasez de buenos datos de capacitación, ya que todos los planes factibles y no factibles deben ser generados por planificadores tradicionales, lo cual, en primer lugar, es lento. Sin embargo, mediante el uso de modelos de lenguaje de visión previamente entrenados y trucos de aumento de datos, el equipo pudo abordar este desafío, mostrando una impresionante reducción del tiempo de planificación no solo en problemas con objetos vistos, sino también en una generalización cero a objetos nunca antes vistos.

“Debido a que el hogar de cada persona es diferente, los robots deberían ser capaces de resolver problemas adaptables en lugar de limitarse a seguir recetas. Nuestra idea clave es permitir que un planificador de tareas de propósito general genere planes de tareas candidatos y utilice un modelo de aprendizaje profundo para seleccionar los prometedores. El resultado es un robot doméstico más eficiente, adaptable y práctico, que puede navegar ágilmente incluso en entornos complejos y dinámicos. Además, las aplicaciones prácticas de PIGINet no se limitan a los hogares”, afirma Zhutian Yang, estudiante de doctorado del MIT CSAIL y autor principal del trabajo. “Nuestro objetivo futuro es perfeccionar aún más PIGINet para sugerir planes de tareas alternativos después de identificar acciones no factibles, lo que acelerará aún más la generación de planes de tareas factibles sin la necesidad de grandes conjuntos de datos para capacitar a un planificador de propósito general desde cero. Creemos que esto podría revolucionar la forma en que se entrenan los robots durante el desarrollo y luego se aplican a los hogares de todos”.

“Este artículo aborda el desafío fundamental en la implementación de un robot de propósito general: cómo aprender de la experiencia pasada para acelerar el proceso de toma de decisiones en entornos no estructurados llenos de una gran cantidad de obstáculos articulados y móviles”, dice Beomjoon Kim PhD ’20 , profesor asistente en la Escuela de Graduados en IA del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST). “El principal obstáculo en tales problemas es cómo determinar un plan de tareas de alto nivel de manera que exista un plan de movimiento de bajo nivel que realice el plan de alto nivel. Normalmente, hay que oscilar entre el movimiento y la planificación de tareas, lo que provoca una ineficiencia computacional significativa. El trabajo de Zhutian aborda esto utilizando el aprendizaje para eliminar planes de tareas inviables, y es un paso en una dirección prometedora”.

Yang escribió el artículo con el científico investigador de NVIDIA Caelan Garrett SB ’15, MEng ’15, PhD ’21; Tomás Lozano-Pérez y Leslie Kaelbling, profesores del Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT y miembros de CSAIL; y el director senior de investigación en robótica de NVIDIA y el profesor Dieter Fox de la Universidad de Washington. El equipo contó con el apoyo de AI Singapur y subvenciones de la Fundación Nacional de Ciencias, la Oficina de Investigación Científica de la Fuerza Aérea y la Oficina de Investigación del Ejército. Este proyecto se llevó a cabo parcialmente mientras Yang era pasante en NVIDIA Research. Su investigación se presentará en julio en la conferencia Robótica: Ciencia y Sistemas.

You missed

NVIDIA lanza Nemotron-Labs-3-Puzzle-75B-A9B: un LLM MoE híbrido comprimido que ofrece un rendimiento de servidor 2,03 veces superior al rendimiento de usuario equivalente[0]Los modelos MoE híbridos grandes como Nemotron-3-Super son precisos pero costosos de mantener. Sus parámetros activos, caché KV y estado de Mamba limitan la cantidad de usuarios que puede contener un nodo a una determinada tasa de token por usuario. El equipo de IA de NVIDIA lanzó Nemotron-Labs-3-Puzzle-75B-A9B, una variante comprimida de Nemotron-3-Super. El modelo principal tiene 120,7 mil millones de parámetros totales y 12,8 mil millones activos. El modelo comprimido tiene 75,3 mil millones de parámetros totales y 9,3 mil millones de parámetros activos. El objetivo de implementación se solucionó antes de que comenzara la búsqueda de arquitectura. El objetivo uno era duplicar el rendimiento del servidor a 100 tokens por segundo por usuario. El objetivo dos eran 8 solicitudes simultáneas de 1 millón de tokens en un solo H100. Tres puntos de control en Hugging Face: BF16, FP8 y NVFP4. TL;DR Los 120,7B/12,8B activos se comprimen a 75,3B/9,3B activos, conservando el diseño híbrido de 88 bloques. El rendimiento total de 8xB200 aumenta de 1,60x a 2,14x con respecto a Super con NVFP4 coincidente y rendimiento de usuario coincidente. La simultaneidad de un solo token H100 de 1 millón va de 1 a 8, impulsada por una caída de peso de 70 GB a 44,5 GB. El rompecabezas iterativo supera al rompecabezas de un solo paso en 0,57 puntos promedio en el mismo objetivo de compresión. Arena-Hard-V2 (-4,2) y SWE-Bench (-2,6) son los costes reales; RULER y AA-LCR apenas se mueven. Nemotron-Labs-3-Puzzle-75B-A9B Nemotron-3-Super es un modelo híbrido Mamba-Transformer MoE. Puzzle-75B-A9B conserva exactamente el diseño del bloque principal. Tiene 88 bloques: 40 Mamba, 40 MoE y 8 bloques de atención. Lo que cambió es la capacidad dentro de esos bloques: CantidadSuperPuzzle-75B-A9BRatioParámetros totales120.7B75.3B62.4%Parámetros activos12.8B9.3B73.1%Tamaño de estado de Mamba SSM1289675%Tamaño intermedio experto enrutado MoE26881280-2688Media 59.9%Expertos enrutados activados por token224-18Media 50%Capacidad experta enrutada activa (relativo)100%8,7%-62,3%Media 30,9% El número de expertos enrutados, el tamaño de expertos compartido y el tamaño latente del MoE no cambian. Las capas de atención quedaron intactas. La razón declarada por la investigación propuesta es que Nemotron-3-Super ya es muy eficiente en cuanto a caché KV. Las capas de Mamba se podaron de manera uniforme, porque los marcos de inferencia no admiten un tamaño de estado SSM diferente por capa. https://arxiv.org/pdf/2607.04371 El resultado no es un profesor uniformemente reducido. La figura anterior muestra la asignación en profundidad. Puzzle conservó la capacidad en capas intermedias y tardías seleccionadas, y cortó con fuerza en otras partes. Punto de referencia y rendimiento La siguiente tabla informa el rendimiento total óptimo de Pareto en un único nodo 8xB200, con decodificación en un solo paso. Escenario (entrada/salida)Piso UTSuper (tok/s)Puzzle-75B-A9B (tok/s)Boost50K / 2K>= 1005,1288,2101.60x50K / 2K>= 1253,7846,4121.69x50K / 2K>= 1502,5324,5231.79x8K / 64K>= 10020,93942,6012.03x8K / 64K>= 12513,07427,9182.14x8K / 64K>= 1508,52218,0472.12x Ambos modelos se entregaron con pesos NVFP4 coincidentes, caché FP8 KV y estado Mamba FP16. Por lo tanto, la brecha refleja compresión, no un cambio en el formato numérico. El régimen 50K/2K con precarga pesada es el que menos gana. El régimen 8K/64K con gran decodificación es el que más gana. En un solo nodo 8xH100 en UT = 100, las ganancias son menores. Son 1,91x en 50K/2K y 1,82x en 8K/64K. Ambos modelos utilizan pesos FP8, caché FP8 KV y estado FP32 Mamba. En un único H100 en un contexto de 1M, la restricción de enlace pasa de la computación a la memoria. Los pesos NVFP4 de Super ocupan alrededor de 70 GB del presupuesto de 80 GB de HBM. Cada solicitud de token de 1 millón agrega aproximadamente 4 GB de caché KV. Por tanto, la concurrencia efectiva es 1. El peso NVFP4 del Puzzle-75B-A9B ocupa alrededor de 44,5 GB. El diseño de atención no cambia, por lo que el costo de KV por solicitud no cambia. La simultaneidad en 1M aumenta a 8. El rendimiento de decodificación agregado en esa simultaneidad es aproximadamente 4 veces el rendimiento de solicitud única de Super. El llenado previo de una solicitud de 990 000 tokens es aproximadamente 1,2 veces más rápido. Cómo funciona el rompecabezas iterativo Puzzle es un marco de búsqueda de arquitectura neuronal descompuesta, implementado aquí como Puzzletron. Define un espacio de búsqueda discreto de implementaciones de capas alternativas. Cada alternativa obtiene una puntuación de calidad. Luego, un programa de enteros mixtos selecciona una alternativa por capa bajo una restricción de implementación. Tres técnicas de poda forman el espacio de búsqueda: Poda de canales intermedios: los canales dentro de cada experto enrutado se clasifican según su contribución a la salida del experto. Todos los expertos dentro de una capa MoE se reducen a un tamaño uniforme para lograr compatibilidad con el kernel. Reducción de top-k: la cantidad de expertos a los que se enruta un token varía según la capa, hasta el k = 22 del padre. Poda de Mamba SSM: el tamaño del estado de SSM cae de 128 a 96 canales. Se mide el resultado del SSM. Bajar 128 canales a 96 acelera el kernel SSM de 1,2x a 1,3x durante la decodificación. Esto se mantiene en tamaños de lote entre 8 y 512. Los canales se clasificaron según su contribución estimada a la producción de la capa Mamba. La estimación promedió más de 67 millones de tokens de datos de validación. El Apéndice A muestra que esto supera la selección aleatoria de canales bajo una poda agresiva. La formulación original asume que los impactos en la calidad del reemplazo son aproximadamente aditivos. Cada bloque candidato se puntúa dentro del padre no modificado. Eso ignora las interacciones de orden superior entre reemplazos. Iterative Puzzle alterna la compresión limitada con una breve recuperación de destilación de conocimientos. Construye una secuencia M0, M1,… MR en lugar de saltar al objetivo. Las puntuaciones se vuelven a calcular con respecto al modelo comprimido actual, no al modelo original. Se utilizaron tres etapas: El Ministerio de Educación pondera el 75% de la capacidad docente, el estado de Mamba SSM el 75%. Curado por 24 mil millones de fichas. El Ministerio de Educación pondera el 60% de la capacidad docente. Curado por 43,2 mil millones de tokens. Se activó el presupuesto de expertos encaminado al 50%, asignado de forma heterogénea. Curado por 52,8 mil millones de tokens. https://arxiv.org/pdf/2607.04371 La tabla anterior compara esto con una línea base de Puzzle de un solo paso en el mismo objetivo. El procedimiento de tres pasos tiene un promedio de 69,05 en diez puntos de referencia, frente a 68,48. Las ganancias aparecen en MMLU-Pro, GPQA, HLE, AA-LCR, LiveCodeBench, SciCode y RULER-256K. IFBench-Instruction cayó 0,2 puntos y IFBench-Prompt cayó 0,5. Recuperación: destilación, RL y verbosidad La destilación de conocimientos se ejecutó con un 30 % de datos de preentrenamiento y un 70 % de datos SFT de Nemotron-3-Nano. Durante la fase de rompecabezas, KD utilizó una secuencia de 32K de longitud. Luego, Recovery entrenó a 128K y escaló a 512K. El presupuesto era de hasta 100 mil millones de tokens, con un lote global de 16 millones de tokens, en Megatron-LM. La capacitación posterior de RL adoptó la Etapa 2 del proceso Nemotron-3-Super RL, centrada en la ingeniería de software. La fase 2.1 realizó una comparación del uso de herramientas en un solo paso. La fase 2.2 pasó a la zona de pruebas RL de extremo a extremo, donde los agentes corren hasta 200 turnos. Ambas fases utilizaron una penalización de KL de 0. El equipo barrió las tasas de aprendizaje y luego promedió los pesos resultantes. https://arxiv.org/pdf/2607.04371 La Figura 4 anterior muestra lo que aportó cada etapa. KD de contexto corto recupera la mayoría de las categorías a más del 97% de Nemotron-3-Super. Luego, KD de contexto largo eleva específicamente los puntos de referencia de entrada larga y de generación larga. El equipo de investigación afirma que el impacto de RL en estos experimentos fue pequeño. La verbosidad es el detalle silencioso. Después de la última iteración de Puzzle, el modelo generó el 132% del recuento de tokens de Super. Eso cayó al 99% después del proceso de recuperación total. Implementación: cuantificación y predicción de tokens múltiples Se produjeron dos recetas de cuantificación posteriores al entrenamiento: FP8 W8A8 apunta a Hopper y NVFP4 W4A4 apunta a Blackwell. Componente Línea base BF16 Punto de control FP8 Punto de control NVFP4 GEMM MoE dispersos y compartidos BF16FP8NVFP4 Mamba GEMM BF16FP8FP8 Mamba Caché SSM FP32FP32FP16 + Caché SRKV FP8FP8FP8 Enrutador FP32FP32FP32 Atención QKV/salida, proyecciones latentes MoE, LM cabezaBF16BF16BF16 Ambas recetas se calibraron en 256 muestras SFT posteriores al entrenamiento. NVFP4 utilizó la calibración máxima, no la búsqueda de sensibilidad AutoQuantize utilizada para Super. El punto de control resultante se cuantifica de forma ligeramente más agresiva y se realiza de manera similar. NVFP4 no es compatible de forma nativa con Hopper. Todavía se utiliza para el objetivo H100 de contexto 1M, porque la capacidad de HBM se vincula allí. Puzzle-75B-A9B hereda un cabezal MTP compartido de Super. Los parámetros se comparten entre los pasos de MTP, por lo que un cabezal se aplica de forma recursiva en la inferencia. La transferencia directa de la cabeza entrenada de Super dio longitudes de aceptación similares. Luego, el equipo de investigación identifica una discrepancia entre el entrenamiento y la inferencia. El entrenamiento MTP forzado por el maestro alimenta la secuencia completa de estados ocultos desplazados. En cambio, la redacción autorregresiva alimenta una combinación de modelos de destino y estados ocultos generados por MTP. Las tasas de aceptación caen en posiciones de draft más profundas. Esto se soluciona mediante una formación continua de la cabeza transferida. En SPEED-Bench con una longitud de calado 7, la longitud media de aceptación aumentó de 3,45 a 4,34. Eso es aproximadamente entre el 25% y el 30%, concentrado en puestos posteriores del draft. A diferencia de Super, el punto de control NVFP4 apenas se degrada: 4,31 frente a 4,34. Dónde ayuda la compresión y dónde duele Benchmark (BF16)SuperPuzzle-75B-A9BDeltaMMLU-Pro83.882.4-1.4AIME25 (sin herramientas)92.289.7-2.5GPQA (sin herramientas)80.578.6-1.9LiveCodeBench82.181.1-1.0SciCode (subtarea)42.340.6-1.7SWE-Bench (OpenHands)59.556.9-2.6Arena-Hard-V272.868.6-4.2AA-LCR56.856.9+0.1REGLA 1M93.992.2-1.7MMLU-ProX79.577.5-2.0 El propio resumen del artículo de investigación es que el seguimiento de instrucciones y las evaluaciones agentes son las que más pierden. Arena-Hard-V2 es el peor de los casos, con -4,2 puntos. RULER se mantiene dentro de aproximadamente 1 a 2 puntos en 256K, 512K y 1M. Tres resultados de BF16 no retroceden. AA-LCR gana 0,1, Scale AI Multi-Challenge empata en 56,6 y TauBench Telecom gana 0,4. NVFP4 cuesta poco además de la compresión. En RULER 1M, el punto de control NVFP4 obtiene una puntuación de 93,2, por encima del 92,2 de BF16. HLE es el costo de NVFP4 más claro, cayendo de 16,5 a 15,7. Los resultados del 8PM se encuentran en el Apéndice E y siguen de cerca al BF16. SWE-Bench no está incluido en el punto de control del 8PM. Casos de uso RAG de contexto ultralargo en una GPU: un servicio de análisis de documentos en un contexto de 1 millón pasa de 1 solicitud simultánea a 8. El rendimiento de decodificación agregado en esa concurrencia es aproximadamente 4 veces mayor. Asistentes de codificación interactivos: en UT >= 100 tok/s en el régimen 8K/64K, un nodo sirve 2,03 veces los tokens. Ajustado por detalle, es decir, 2,16 veces las solicitudes completadas por minuto. Canalizaciones de documentos con gran cantidad de precarga: el régimen de 50.000/2.000 gana solo 1,60 veces. La compresión ayuda menos cuando el procesamiento rápido domina la computación. Bucles SWE agentes: verifique la brecha SWE-Bench de 2,6 puntos con su combinación de tareas. La recuperación de RL apuntó a esta capacidad y solo la restauró parcialmente. Explorador de implementación ‘+esc(r