Uno de los factores cruciales para lograr resultados de alta calidad de estos modelos radica en el diseño de indicaciones: instrucciones de entrada cuidadosamente elaboradas que guían al modelo para producir las respuestas deseadas. A pesar de su importancia, la creación rápida es un proceso que requiere mucha mano de obra y que a menudo requiere conocimientos de un dominio específico y un esfuerzo humano significativo. Estas limitaciones han estimulado el desarrollo de sistemas automatizados para refinar y optimizar las indicaciones de manera eficiente.
Uno de los desafíos importantes en la ingeniería de avisos es la dependencia de la experiencia manual para adaptar los avisos a cada tarea única. Este enfoque requiere mucho tiempo y debe ampliarse de manera más efectiva para aplicaciones complejas o de dominios específicos. Además, los métodos existentes para optimizar las indicaciones a menudo están restringidos a modelos de código abierto que brindan acceso a cálculos internos. Los sistemas de caja negra, como los modelos propietarios a los que solo se puede acceder a través de API, presentan un obstáculo adicional, ya que su funcionamiento interno es opaco, lo que hace que las técnicas tradicionales basadas en gradientes no sean prácticas. Estas limitaciones resaltan la necesidad urgente de soluciones que funcionen de manera eficiente con recursos limitados y al mismo tiempo sigan siendo efectivas en diversas tareas.
Actualmente, los métodos para la optimización rápida se pueden clasificar en términos generales en dos categorías: enfoques continuos y discretos. Las técnicas continuas, como las indicaciones suaves, se basan en modelos auxiliares para refinar las instrucciones, pero requieren recursos computacionales sustanciales y no son directamente aplicables a los sistemas de caja negra. Los métodos discretos, incluidos enfoques como PromptBreeder y EvoPrompt, se centran en generar variaciones de indicaciones y seleccionar las de mejor rendimiento en función de métricas de evaluación. Si bien estos enfoques han resultado prometedores, a menudo necesitan mecanismos de retroalimentación más estructurados para mejorar. Necesitan equilibrar la exploración con refinamientos de tareas específicas, lo que conduce a resultados subóptimos.
Investigadores de Microsoft Research India han desarrollado y han abierto PromptWizard, un marco de inteligencia artificial innovador para optimizar indicaciones en LLM de caja negra. Este marco emplea un mecanismo de crítica y síntesis basado en retroalimentación para refinar de forma iterativa las instrucciones rápidas y los ejemplos en contexto, mejorando el desempeño de la tarea. PromptWizard se destaca por combinar la exploración guiada con críticas estructuradas para garantizar la mejora integral de las indicaciones. A diferencia de los métodos anteriores, alinea los requisitos de tareas específicas con un proceso de optimización sistemático, ofreciendo una solución eficiente y escalable para diversas aplicaciones de PNL.
PromptWizard opera a través de dos fases principales: una fase de generación y una fase de inferencia en el momento de la prueba. Durante la fase de generación, el sistema utiliza LLM para crear múltiples variaciones de un mensaje base mediante la aplicación de heurística cognitiva. Estas variaciones se evalúan con respecto a ejemplos de capacitación para identificar candidatos de alto rendimiento. El marco integra un mecanismo de crítica que analiza las fortalezas y debilidades de cada mensaje, generando retroalimentación que informa las iteraciones posteriores de refinamiento. Al sintetizar nuevos ejemplos y aprovechar las cadenas de razonamiento, el sistema mejora tanto la diversidad como la calidad de las indicaciones. Las indicaciones y ejemplos optimizados se aplican a tareas invisibles en el momento de la prueba, lo que garantiza mejoras constantes en el rendimiento. Este enfoque reduce significativamente la sobrecarga computacional al centrarse en refinamientos significativos en lugar de mutaciones aleatorias, lo que lo hace adecuado para entornos con recursos limitados.
La eficacia del marco se demuestra a través de extensos experimentos en 45 tareas, incluidos conjuntos de datos como Big Bench Induction Induction (BBII) y puntos de referencia de razonamiento aritmético como GSM8K, AQUARAT y SVAMP. PromptWizard logró la mayor precisión en configuraciones de disparo cero en 13 de 19 tareas, superando a métodos básicos como Instinct y EvoPrompt. Mejoró aún más la precisión en escenarios de una sola vez, lo que llevó a 16 de 19 tareas. Por ejemplo, logró una precisión de disparo cero del 90 % en GSM8K y del 82,3 % en SVAMP, lo que demuestra su capacidad para manejar tareas complejas de razonamiento de manera efectiva. Además, PromptWizard redujo el uso de tokens y las llamadas API hasta 60 veces en comparación con métodos discretos como PromptBreeder, con un costo total de solo $0,05 por tarea, lo que la convierte en una de las soluciones más rentables disponibles.
El éxito de PromptWizard radica en su innovadora combinación de optimización secuencial, críticas guiadas e integración de personas expertas, lo que garantiza la alineación e interpretabilidad de tareas específicas. Los resultados resaltan su potencial para transformar la ingeniería rápida, ofreciendo una solución escalable, eficiente y accesible para optimizar los LLM en diversos dominios. Este avance subraya la importancia de integrar marcos automatizados en los flujos de trabajo de PNL, allanando el camino para una utilización más eficaz y asequible de tecnologías avanzadas de IA.
Verificar el Papel, Blogy Página de GitHub. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. No olvides unirte a nuestro SubReddit de más de 60.000 ml.
Nikhil es consultor interno en Marktechpost. Está cursando una doble titulación integrada en Materiales en el Instituto Indio de Tecnología de Kharagpur. Nikhil es un entusiasta de la IA/ML que siempre está investigando aplicaciones en campos como los biomateriales y la ciencia biomédica. Con una sólida formación en ciencia de materiales, está explorando nuevos avances y creando oportunidades para contribuir.