Los investigadores de Bytedance presentan PASA: un agente de búsqueda en papel avanzado impulsado por modelos de idiomas grandes

La búsqueda en papel académico representa un desafío de recuperación de información crítico pero complejo dentro de los ecosistemas de investigación. Los investigadores requieren capacidades de búsqueda complejas que puedan navegar por dominios de conocimiento especializados complejos y abordar consultas matizadas y de grano fino. Las plataformas de búsqueda académicas actuales como Google Scholar luchan para manejar intrincadas investigaciones específicas de investigación. Por ejemplo, los estudios especializados de búsqueda de consultas sobre el aprendizaje de refuerzo no estacionario (RL) que utilizan métodos de valor basados ​​en UCB exigen extensas capacidades computacionales y analíticas. Además, los investigadores a menudo invierten un tiempo y un esfuerzo considerables en realizar encuestas de literatura integrales, y navegar manualmente a través de extensas bases de datos académicas.

Las metodologías de investigación existentes para la búsqueda en papel académica y el descubrimiento científico han explorado varias aplicaciones de LLM en diferentes etapas de investigación. Los investigadores han utilizado LLM para diversas tareas que incluyen generación de ideas, diseño de experimentos, redacción de códigos y creación de documentos de investigación. Sin embargo, las herramientas tradicionales como Google Scholar siguen siendo inadecuadas para manejar consultas de investigación especializadas complejas. Muchos trabajos se han centrado en desarrollar agentes de LLM a través de técnicas de ingeniería rápidas y marcos de optimización. En particular, han surgido enfoques como el marco Agile RL para permitir habilidades de agentes más integrales y adaptables. A pesar de estos avances, una solución detallada para las búsquedas de papel académicas autónomos y precisos sigue sin abordar, creando una brecha de investigación significativa.

Investigadores de Bytedance Research y la Universidad de Pekín han propuesto Pasa, un innovador agente de búsqueda en papel impulsado por LLMS. PASA representa un enfoque complejo para la investigación académica, capaz de ejecutar de forma autónoma estrategias de búsqueda complejas que incluyen invocación de herramientas, lectura en papel y selección de referencia. El agente está diseñado para generar resultados integrales y precisos para consultas académicas intrincadas. Para optimizar el rendimiento de Pasa, los investigadores desarrollan AutoScholarQuery, un conjunto de datos sintético que comprende 35k consultas académicas de grano fino de las publicaciones de la conferencia de IA de primer nivel. Crearon RealScholarQuery, un punto de referencia para evaluar el rendimiento del mundo real del agente. El enfoque novedoso utiliza técnicas RL para mejorar las capacidades de búsqueda del agente, abordando limitaciones significativas en las metodologías de búsqueda académica existentes.

El sistema PASA comprende dos agentes de LLM: el rastreador y el selector, que trabajan en colaboración para ejecutar búsquedas completas en papel académico. El rastreador inicia el proceso analizando la consulta del usuario para generar múltiples consultas de búsqueda refinadas para recuperar documentos relevantes. Estos documentos recuperados se agregan a una cola de papel dedicada. El rastreador procesa cada documento en cola, identificando y explorando citas clave que podrían expandir el alcance de la investigación, agregando dinámicamente los documentos relevantes recién descubiertos a la lista de documentos. Además, el selector de cada artículo realiza una revisión, evaluando su alineación con los requisitos de consulta original. El proceso de entrenamiento para el rastreador implica un enfoque de dos etapas: aprendizaje de imitación inicial en un subconjunto de datos de capacitación, seguido de la optimización de RL.

Los resultados experimentales demuestran el rendimiento superior de PASA-7B en múltiples puntos de referencia. En el conjunto de pruebas de autoscholarQuery, PASA-7B supera a las líneas de base existentes, lo que logró una mejora del 9.64% en el retiro en comparación con PASA-GPT-4O mientras mantiene una precisión comparable. PASA-7B exhibe ganancias notables contra las líneas de base en Google, con mejoras que van desde 33.80% a 42.64% en diferentes métricas de recuperación. Además, el uso de múltiples conjuntos de rastreadores durante la inferencia mejora el rendimiento, aumentando el recuerdo de Crawler en un 3,34% y el recuerdo general del sistema en un 1,51%. En el escenario más desafiante de RealScholarQuery, PASA-7B demuestra ventajas aún más pronunciadas, entregando un retiro 30.36% más alto y un 4.25% mejorado de precisión en comparación con PASA-GPT-4O.

En conclusión, los investigadores introdujeron el PASA que representa un avance en las tecnologías de búsqueda en papel académicas, abordando desafíos críticos en la recuperación de información para la investigación académica. Al utilizar las técnicas LLM y RL, el PASA ofrece una solución detallada a la compleja tarea de identificar y recuperar documentos académicos relevantes. El método propuesto demuestra mejoras sustanciales sobre las metodologías de búsqueda existentes, reduciendo significativamente el tiempo y el esfuerzo, los investigadores gastan en revisiones de literatura. Además, PASA proporciona a los investigadores una herramienta poderosa para navegar por el panorama académico cada vez más vasto y complejo. Su capacidad para generar, buscar y evaluar de forma autónoma los documentos académicos marca un paso significativo en la recuperación de información científica.


Verificar el Papel y Github. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos Gorjeo y únete a nuestro Canal de telegrama y LinkedIn GRsalpicar. No olvides unirte a nuestro 70k+ ml de subreddit.

🚨 [Recommended Read] Nebius AI Studio se expande con modelos de visión, nuevos modelos de idiomas, incrustaciones y Lora (Promocionado)


Sajjad Ansari es un pregrado de último año de IIT Kharagpur. Como entusiasta de la tecnología, profundiza en las aplicaciones prácticas de la IA con un enfoque en comprender el impacto de las tecnologías de IA y sus implicaciones del mundo real. Su objetivo es articular conceptos complejos de IA de manera clara y accesible.