El cambio en las necesidades del sistema de IA de agente
Los LLM son ampliamente admirados por sus capacidades humanas y habilidades de conversación. Sin embargo, con el rápido crecimiento de los sistemas de IA agente, los LLM se utilizan cada vez más para tareas repetitivas y especializadas. Este cambio está ganando impulso: más de la mitad de las principales compañías de TI ahora usan agentes de IA, con fondos significativos y crecimiento proyectado del mercado. Estos agentes confían en LLM para la toma de decisiones, la planificación y la ejecución de tareas, típicamente a través de API de nubes centralizadas. Las inversiones masivas en la infraestructura de LLM reflejan la confianza de que este modelo permanecerá fundamental para el futuro de la IA.
SLM: eficiencia, idoneidad y el caso contra la excesiva dependencia de LLMS
Investigadores de Nvidia y Georgia Tech argumentan que los modelos de lenguaje pequeño (SLMS) no solo son lo suficientemente potentes para muchas tareas de agentes, sino también más eficientes y rentables que los modelos grandes. Creen que los SLM son más adecuados para la naturaleza repetitiva y simple de la mayoría de las operaciones de agente. Si bien los modelos grandes siguen siendo esenciales para las necesidades de conversación más generales, proponen usar una combinación de modelos dependiendo de la complejidad de la tarea. Desafían la dependencia actual de LLM en sistemas de agente y ofrecen un marco para la transición de LLM a SLMS. Invitan a una discusión abierta para fomentar una implementación de IA más consciente de los recursos.
Por qué los SLM son suficientes para las operaciones de agente
Los investigadores argumentan que los SLM no solo son capaces de manejar la mayoría de las tareas dentro de los agentes de IA, sino que también son más prácticos y rentables que las LLM. Definen SLM como modelos que pueden ejecutarse de manera eficiente en los dispositivos de consumo, destacando sus fortalezas: latencia más baja, reducido consumo de energía y personalización más fácil. Dado que muchas tareas de agentes son repetitivas y enfocadas, los SLM a menudo son suficientes e incluso preferibles. El documento sugiere un cambio hacia sistemas de agente modulares utilizando SLM por defecto y LLMS solo cuando sea necesario, promoviendo un enfoque más sostenible, flexible e inclusivo para construir sistemas inteligentes.
Argumentos para el dominio de LLM
Algunos argumentan que los LLM siempre superarán a los modelos pequeños (SLM) en tareas de lenguaje general debido a la escala superior y las habilidades semánticas. Otros afirman que la inferencia centralizada de LLM es más rentable debido a las economías de escala. También existe la creencia de que los LLM dominan simplemente porque tuvieron un comienzo temprano, atrayendo la mayor parte de la atención de la industria. Sin embargo, el estudio contiene que los SLM son altamente adaptables, más baratos de ejecutar y pueden manejar subtareas bien definidas en los sistemas de agentes de manera efectiva. Aún así, la adopción más amplia de SLM enfrenta obstáculos, incluidas las inversiones de infraestructura existentes, el sesgo de evaluación hacia los puntos de referencia de LLM y la menor conciencia pública.
Marco para la transición de LLM a SLMS
Para cambiar suavemente de LLM a los más pequeños y especializados (SLM) en los sistemas basados en agentes, el proceso comienza recopilando de forma segura los datos de uso al tiempo que garantiza la privacidad. A continuación, los datos se limpian y filtran para eliminar detalles confidenciales. Usando la agrupación, las tareas comunes se agrupan para identificar dónde pueden hacerse cargo de SLMS. Según las necesidades de la tarea, los SLM adecuados se eligen y se ajustan con conjuntos de datos personalizados, que a menudo utilizan técnicas eficientes como Lora. En algunos casos, las salidas de LLM guían el entrenamiento SLM. Este no es un proceso único: los modelos deben actualizarse y refinarse regularmente para mantenerse alineados con las interacciones y tareas de los usuarios en evolución.
Conclusión: hacia AI agente sostenible y eficiente en recursos
En conclusión, los investigadores creen que cambiar de grande a SLM podría mejorar significativamente la eficiencia y la sostenibilidad de los sistemas de IA agente, especialmente para las tareas que son repetitivas y enfocadas estrechamente. Argumentan que los SLM a menudo son lo suficientemente potentes, más rentables y más adecuados para tales roles en comparación con las LLM de uso general. En casos que requieren habilidades de conversación más amplias, se recomienda usar una combinación de modelos. Para alentar el progreso y el diálogo abierto, invitan a los comentarios y las contribuciones a su postura, comprometiéndose a compartir las respuestas públicamente. El objetivo es inspirar el uso más reflexivo y eficiente de los recursos de las tecnologías de IA en el futuro.
Mira el Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, siéntete libre de seguirnos Gorjeo Y no olvides unirte a nuestro Subreddit de 100k+ ml y suscribirse a Nuestro boletín.
Sana Hassan, una pasante de consultoría en MarktechPost y estudiante de doble grado en IIT Madras, le apasiona aplicar tecnología e IA para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida real.
