En este tutorial, exploramos cómo crear un agente LLM de plegado de contexto que resuelva de manera eficiente tareas largas y complejas mediante la gestión inteligente de un contexto limitado. Diseñamos el agente para dividir una tarea grande en subtareas más pequeñas, realizar razonamientos o cálculos cuando sea necesario y luego plegar cada subtrayectoria completa en resúmenes concisos. Al hacer esto, preservamos el conocimiento esencial manteniendo pequeña la memoria activa. Consulta los CÓDIGOS COMPLETOS aquí.
volver fuera.strip()
Comenzamos configurando nuestro entorno y cargando un modelo ligero de Hugging Face. Usamos este modelo para generar y procesar texto localmente, asegurando que el agente funcione sin problemas en Google Colab sin dependencias de API. Consulta los CÓDIGOS COMPLETOS aquí.
Definimos una herramienta de calculadora simple para aritmética básica y creamos un sistema de memoria que pliega dinámicamente el contexto pasado en resúmenes concisos. Esto nos ayuda a mantener una memoria activa manejable mientras retenemos información esencial. Consulta los CÓDIGOS COMPLETOS aquí.
Diseñamos plantillas de indicaciones que guían al agente a descomponer tareas, resolver subtareas y resumir resultados. Estas indicaciones estructuradas permiten una comunicación clara entre los pasos de razonamiento y las respuestas del modelo. Consulta los CÓDIGOS COMPLETOS aquí.
def ejecutar(self,tarea:str)->Dict: t0=time.time() self.memory.add(f”TASK: {tarea}”) subtasks=self.decompose(tarea) self.metrics[“subtasks”]=len(subtareas) plegadas=[]
para st en subtareas: self.memory.add(f”SUBTASK: {st}”) final,fold_summary,trace=run_subtask(task,st,self.memory) self.memory.fold_in(fold_summary) fold.append(f”- {st}: {final}”) self.memory.add(f”SUBTASK_DONE: {st}”) final=llm_gen(FINAL_SYNTH_PROMPT.format(task=task,folds=self.memory.folded_text()),max_new_tokens=200) t1=time.time() return {“task”:task,”final”:final.strip(),”folded_summaries”:self.memory.folded_text(), “active_context_chars”:len(self.memory.active_text()), “subtask_finals”:folded,”runtime_sec”:round(t1-t0,2)}
Implementamos la lógica central del agente, en la que cada subtarea se ejecuta, se resume y se vuelve a plegar en la memoria. Este paso demuestra cómo el plegado del contexto permite al agente razonar de forma iterativa sin perder de vista el razonamiento previo. Consulta los CÓDIGOS COMPLETOS aquí.
“Plan a 3-day study schedule for ML with daily workouts and simple meals; include time blocks.”,
“Compute a small project budget with 3 items (laptop 799.99, course 149.5, snacks 23.75), add 8% tax and 5% buffer, and present a one-paragraph recommendation.”
]
def bonita(d): devuelve json.dumps(d, sangría=2, asegurar_ascii=False) si __name__==”__main__”: agente=ContextFoldingAgent(max_active_chars=700) para i, tarea en enumerar(DEMO_TASKS,1): print(“=”*70) print(f”DEMO #{i}: {tarea}”) res=agent.run(tarea) print(“\n— Resúmenes plegados —\n”+(res[“folded_summaries”] o “(ninguno)”)) print(“\n— Respuesta final —\n”+res[“final”]) print(“\n— Diagnóstico —“) diag={k:res[k] para k en [“active_context_chars”,”runtime_sec”]} diagnóstico[“n_subtasks”]=len(agente.descomponer(tarea)) imprimir(bonita(diag))
Ejecutamos el agente en tareas de muestra para observar cómo planifica, ejecuta y sintetiza los resultados finales. A través de estos ejemplos, vemos el proceso completo de plegado del contexto en acción, produciendo resultados concisos y coherentes.
En conclusión, demostramos cómo el plegamiento del contexto permite el razonamiento a largo plazo evitando al mismo tiempo la sobrecarga de memoria. Vemos cómo se planifica, ejecuta, resume y destila cada subtarea en conocimiento compacto, imitando cómo un agente inteligente manejaría flujos de trabajo complejos a lo largo del tiempo. Al combinar descomposición, uso de herramientas y compresión de contexto, creamos un sistema agente liviano pero poderoso que escala el razonamiento de manera eficiente.
Consulte los CÓDIGOS COMPLETOS aquí y en papel. No dude en consultar nuestra página de GitHub para tutoriales, códigos y cuadernos. Además, no dude en seguirnos en Twitter y no olvide unirse a nuestro SubReddit de más de 100.000 ML y suscribirse a nuestro boletín. ¡Esperar! estas en telegrama? Ahora también puedes unirte a nosotros en Telegram.
Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como empresario e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.
🙌 Siga MARKTECHPOST: agréguenos como fuente preferida en Google.