Métricas y métodos esenciales para mejorar el rendimiento en las canalizaciones de recuperación, generación y de un extremo a otro.
Introducción
Cuando pensamos en algunas de las aplicaciones más comunes de la IA generativa, la generación aumentada de recuperación (RAG) sin duda ha surgido como uno de los temas de discusión más comunes dentro de este dominio. A diferencia de los motores de búsqueda tradicionales que dependían de la optimización de mecanismos de recuperación mediante búsquedas de palabras clave para encontrar información relevante para una consulta determinada, RAG va un paso más allá al generar una respuesta completa para una pregunta determinada utilizando el contenido recuperado.
La siguiente figura ilustra una representación gráfica de RAG en la que los documentos de interés se codifican utilizando un modelo de incrustación y luego se indexan y almacenan en un almacén de vectores. Cuando se envía una consulta, generalmente se integra de manera similar, seguida de dos pasos (1) el paso de recuperación que busca documentos similares y luego (2) un paso generativo que utiliza el contenido recuperado para sintetizar una respuesta.