Los Large Language Models (LLM) han evolucionado significativamente en los últimos tiempos, especialmente en las áreas de comprensión y generación de textos. Sin embargo, ha habido ciertas dificultades a la hora de optimizar los LLM para una impartición de instrucción humana más eficaz. Si bien los LLM han mostrado avances en tareas que involucran predicción de tokens y ejecución de tareas con un número limitado de demostraciones, esto no necesariamente se traduce en una mejor instrucción humana.
El ajuste de instrucciones es una solución, que incluye ajustar los LLM en instrucciones que coincidan con respuestas que gusten a los humanos. Las técnicas actualmente existentes para ajustar la instrucción se basan con frecuencia en conjuntos de datos de procesamiento del lenguaje natural (PNL), que son escasos, o en enfoques de autoinstrucción que producen conjuntos de datos artificiales que tienen dificultades con la diversidad. Para abordar este problema, Evolve-Instruct utiliza el aumento de datos para mejorar los conjuntos de datos ya existentes, pero esto aún limita el alcance del programa debido a los conjuntos de datos de entrada iniciales.
Para superar todas estas limitaciones, un equipo de investigadores de Microsoft ha introducido GLAN (Generalized Instrucciones Tuning), un paradigma que se ha visto influenciado por el marco organizado del sistema educativo humano. GLAN incluye una variedad de materias, niveles y disciplinas y genera metódicamente datos de enseñanza a gran escala en todas las disciplinas utilizando una taxonomía previamente seleccionada del conocimiento y las capacidades humanas.
Este método divide el conocimiento humano en dominios, subcampos y disciplinas utilizando LLM y verificación humana. Después de eso, esta taxonomía se divide en materias, con un programa de estudios creado para cada materia. Los temas esenciales específicos de cada sesión de clase se tratan en detalle en el programa de estudios. GLAN utiliza muestras de estas ideas para producir una variedad de instrucciones que se asemejan mucho al diseño del sistema educativo humano.
El equipo ha compartido que GLAN es un enfoque flexible, escalable y polivalente. Es escalable, produce instrucciones a una escala enorme e independiente de las tareas, y abarca una amplia gama de disciplinas. La entrada, una taxonomía, se ha creado con un mínimo esfuerzo humano mediante indicaciones y verificación de LLM. GLAN también simplifica la personalización porque no requiere recrear todo el conjunto de datos al agregar nuevos campos o habilidades.
Utilizando su plan de estudios integral, GLAN ha producido una amplia gama de instrucciones que cubren todas las combinaciones posibles de conocimientos y habilidades humanos. Se han realizado varios experimentos con LLM, incluido Mistral, que han demostrado lo excelente que es GLAN en una variedad de dimensiones. Estas dimensiones incluyen codificación, razonamiento lógico, razonamiento matemático, pruebas académicas y posterior instrucción general. GLAN hace esto sin utilizar datos de entrenamiento específicos de tareas para estas tareas particulares.
En conclusión, GLAN es una técnica confiable, flexible y eficiente para ajustar la instrucción en LLM. Debido a su adaptabilidad, el conjunto de datos se puede ampliar y modificar sin tener que empezar de cero. Tiene una función de personalización sencilla y se pueden agregar fácilmente nuevos dominios o competencias a GLAN con la adición de un nuevo nodo a su taxonomía.
Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y noticias de Google. Unirse nuestro SubReddit de 38k+ ML, 41k+ comunidad de Facebook, Canal de discordiay LinkedIn Grarriba.
Si te gusta nuestro trabajo, te encantará nuestro Boletin informativo..
No olvides unirte a nuestro Canal de telegramas
También te puede gustar nuestro Cursos GRATUITOS de IA….
Tanya Malhotra es estudiante de último año de la Universidad de Estudios de Petróleo y Energía, Dehradun, y cursa BTech en Ingeniería Informática con especialización en Inteligencia Artificial y Aprendizaje Automático.
Es una entusiasta de la Ciencia de Datos con buen pensamiento analítico y crítico, junto con un ardiente interés en adquirir nuevas habilidades, liderar grupos y gestionar el trabajo de manera organizada.