“La API de Asistentes le permite crear asistentes de IA dentro de sus propias aplicaciones. Un Asistente tiene instrucciones y puede aprovechar modelos, herramientas y conocimientos para responder a las consultas de los usuarios”, OpenAI.
Suena genial, así que veremos cómo podemos usar la nueva API para realizar análisis de datos locales.
La API de Asistentes representa un enfoque que es una alternativa a al menos algunos usos de la Generación Aumentada de Recuperación (RAG). Entonces, ¿RAG ha sido simplemente una medida provisional, una solución temporal a los inconvenientes de la actual generación de LLM? Después de todo, Jerry Liu de LlamaIndex ha dicho que RAG es solo un truco (aunque poderoso).
Aquí hay tres problemas específicos inherentes a los LLM que RAG aborda actualmente y que la API de Asistentes también abordará:
- Los LLM están desactualizados. Requiere mucho tiempo y dinero (sin mencionar la energía) para entrenar un modelo, por lo que la información con la que fueron entrenados podría tener un par de años.
- Los LLM no conocen su datos. Es bastante improbable que sus datos formaran parte del conjunto de formación para un LLM.
- Los LLM alucinan. A veces darán respuestas totalmente plausibles que son totalmente falsas.
Al proporcionar al LLM datos que sean relevantes para su solicitud, puede reducir estos problemas.
Por ejemplo, si desea que el LLM produzca código Streamlit, puede proporcionarle datos de la documentación más reciente para permitirle utilizar nuevas funciones del marco. O, si desea hacer algún análisis sobre algunos datos específicos, entonces es esencial proporcionarlos claramente. Y, finalmente, al proporcionar datos relevantes al LLM, aumenta las posibilidades de que brinde una respuesta adecuada y, por lo tanto, reduce la posibilidad de que simplemente se invente cosas.
Si bien RAG se ha utilizado para mitigar estos problemas, ahora también los aborda la nueva API de Asistentes. El enfoque RAG hace…