Los modelos de lenguajes grandes (LLM) han demostrado un potencial significativo en tareas de razonamiento, utilizando métodos como la cadena de pensamiento (CoT) para dividir problemas complejos en pasos manejables. Sin embargo, esta capacidad conlleva desafíos. Las indicaciones de CoT a menudo aumentan el uso de tokens, lo que genera mayores costos computacionales y consumo de energía. Esta ineficiencia es una preocupación para las aplicaciones que requieren precisión y eficiencia de recursos. Los LLM actuales tienden a generar resultados innecesariamente largos, que no siempre se traducen en una mayor precisión sino que generan costos adicionales. El desafío clave es encontrar un equilibrio entre el rendimiento del razonamiento y la eficiencia de los recursos.
Investigadores de la Universidad de Nanjing, la Universidad de Rutgers y la UMass Amherst han introducido un marco de razonamiento LLM basado en el presupuesto de tokens. Este marco estima dinámicamente los presupuestos simbólicos en función de la complejidad de una tarea de razonamiento y utiliza estas estimaciones para guiar el proceso. Conocido como TALE (Token-Budget-Aware LLM rEasoning), el enfoque busca reducir el uso de tokens sin comprometer la precisión de las respuestas. Al integrar un presupuesto simbólico en las indicaciones de CoT, TALE proporciona una solución práctica para mejorar la rentabilidad en los LLM y al mismo tiempo mantener su rendimiento.
Detalles técnicos y beneficios
TALE opera en dos fases principales: estimación del presupuesto y razonamiento consciente del presupuesto simbólico. Inicialmente, estima un presupuesto simbólico apropiado para un problema utilizando métodos como la predicción de tiro cero o estimadores basados en regresión. Luego, este presupuesto se integra en el mensaje para alentar al LLM a generar respuestas concisas pero precisas.
Una innovación clave en TALE es el concepto de “elasticidad del token”, que identifica un rango óptimo de presupuestos de tokens que minimiza el uso de tokens y preserva la precisión. Utilizando técnicas de búsqueda iterativa como la búsqueda binaria, TALE determina el presupuesto óptimo para diversas tareas y arquitecturas LLM. En promedio, el marco logra una reducción del 68,64 % en el uso de tokens con una disminución de menos del 5 % en la precisión, lo que lo convierte en un enfoque práctico y adaptable para la eficiencia de los tokens.
Resultados y conocimientos
Los experimentos demuestran la eficacia de TALE en pruebas de referencia como GSM8K y MathBench. Por ejemplo, en el conjunto de datos GSM8K, TALE logró una precisión del 84,46%, superando el método Vanilla CoT y reduciendo los costos de los tokens de 318,10 a 77,26 en promedio. En GSM8K-Zero, redujo los costos de los tokens en un 91 %, manteniendo una precisión del 98,72 %.
TALE también se generaliza bien en diferentes LLM, como GPT-4o-mini y Yi-lightning. Cuando se aplicó al conjunto de datos de MathBench-College, TALE redujo los costos de los tokens hasta en un 70 % manteniendo al mismo tiempo una precisión competitiva. Además, el marco reduce significativamente los gastos operativos, recortando los costos en un 59 % en promedio en comparación con Vanilla CoT. Estos resultados resaltan la capacidad de TALE para mejorar la eficiencia sin sacrificar el rendimiento, lo que lo hace adecuado para una variedad de aplicaciones.
Conclusión
El marco de razonamiento Token-Budget-Aware LLM aborda la ineficiencia del uso de tokens en las tareas de razonamiento. Al estimar y aplicar dinámicamente presupuestos de tokens, TALE logra un equilibrio entre precisión y rentabilidad. Este enfoque reduce los gastos computacionales y amplía la accesibilidad de capacidades avanzadas de LLM. A medida que la IA continúa evolucionando, marcos como TALE ofrecen un camino hacia un uso más eficiente y sostenible de los LLM tanto en contextos académicos como industriales.
Verificar el Papel y Página de GitHub. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. No olvides unirte a nuestro SubReddit de más de 60.000 ml.
Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como empresario e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.