Category: Inteligencia artificial

Cómo construir un sistema de IA agente avanzado con planificación, llamada de herramientas, memoria y autocrítica utilizando la API OpenAI

HERRAMIENTAS = { “calc”: expresión lambda: _safe_calc(expresión), “kb_search”: consulta lambda, k=3: _kb_search(consulta, int(k)), “extract_json”: texto lambda: _extract_json(texto), “write_file”: ruta lambda, contenido: _write_file(ruta, contenido), } TOOL_SCHEMAS = }}}, {“type”: “function”,”function”:{“name”:”kb_search”,”description”:”Buscar mini…

Una implementación de codificación para comprimir y comparar LLM ajustados por instrucciones con FP8, GPTQ y SmoothQuant Quantization usando llmcompressor

importar subproceso, sys def pip(*pkgs): subproceso.check_call() pip(“llmcompressor”, “compressed-tensors”, “transformers>=4.45”, “accelerate”, “datasets”) importar os, gc, time, json, math desde pathlib importar ruta importar antorcha desde transformadores importar AutoModelForCausalLM, AutoTokenizer desde conjuntos…