Comenzar con LlamaIndex es una excelente opción al construir un oleoducto RAG. Por lo general, necesita una clave API de OpenAI para seguir los numerosos tutoriales disponibles.
Sin embargo, es posible que se enfrente a estas situaciones:
- Su empresa solo puede utilizar modelos implementados de forma privada debido al cumplimiento.
- Está utilizando un modelo ajustado por su equipo de ciencia de datos.
- Las restricciones legales impiden que los datos privados de su empresa salgan del país.
- Otras razones que requieren el uso de modelos implementados de forma privada.
Al crear aplicaciones empresariales de IA, no puede utilizar OpenAI ni los servicios LLM de otros proveedores de nube.
Esto lleva a un primer paso frustrante: ¿Cómo conecto mi código LlamaIndex al servicio API privado de mi empresa?
Para ahorrar tiempo, si solo necesita la solución, instale esta extensión:
pip install -U llama-index-llms-openai-like
Esto solucionará tu problema.
Si quieres entender por qué, continuemos.