Los modelos de lenguajes grandes (LLM), reconocidos por sus capacidades fundamentales como el razonamiento de sentido común y la generación de lenguaje coherente, se han perfeccionado para tareas de dominios específicos, como la generación de código y la resolución de problemas matemáticos. Esta tendencia ha llevado a modelos especializados que sobresalen en dominios específicos, como la generación de código o el razonamiento lógico.
Esto pregunta si un modelo de anclaje se puede combinar con un modelo de aumento de dominio específico para introducir capacidades novedosas, como fusionar la destreza de comprensión de código de un modelo con la generación de lenguaje de otro para la generación de código a texto. Tradicionalmente, el enfoque implica un entrenamiento previo adicional o un ajuste fino del modelo de anclaje en los datos utilizados para entrenar el modelo de aumento. Sin embargo, esto podría necesitar ser más práctico debido a los costos computacionales. Trabajar con distintos modelos permite aprovechar las capacidades establecidas sin encontrar problemas como el olvido catastrófico que se observa en los métodos tradicionales.
Para abordar los obstáculos relacionados con la capacitación y las limitaciones de datos descritos anteriormente, los investigadores de Google Research y Google DeepMind presentan y exploran un escenario pragmático para la composición de modelos: (i) tener acceso a uno o varios modelos de aumento junto con un modelo ancla, (ii) ser restringido de alterar los pesos de cualquiera de los modelos y (iii) tener acceso a un conjunto de datos limitado que representa las capacidades combinadas de los modelos proporcionados, como la generación de código integrada con un razonamiento lógico intrincado.
Proponen un marco innovador llamado Composición para aumentar los modelos de lenguaje (CALM) para abordar el escenario general de composición de modelos descrito anteriormente. A diferencia de las fusiones de LM de aumento superficial y anclaje, CALM introduce un pequeño conjunto de parámetros entrenables dentro de las representaciones de la capa intermedia de los modelos de aumento y anclaje. CALM tiene como objetivo descubrir una fusión óptima de estos modelos, mejorando su desempeño colectivo en el manejo de nuevas tareas complejas de manera más efectiva que cualquiera de los modelos operando solo, conservando al mismo tiempo las distintas capacidades de cada modelo.
Exploran importantes aplicaciones prácticas de CALM, centrándose en la inclusión del lenguaje y la generación de código. En el contexto de la inclusión lingüística, aprovechan un modelo formado específicamente en lenguas de bajos recursos. Combinan este modelo con el LLM, lo que les otorga acceso a sus capacidades avanzadas de generación y razonamiento, lo que resulta en un rendimiento notablemente mejorado para tareas de traducción y razonamiento aritmético en idiomas de bajos recursos.
Curiosamente, este modelo compuesto supera el rendimiento de los dos modelos base y supera a las versiones del LLM que se sometieron a una capacitación previa adicional o a un ajuste fino de LoRA adaptado a idiomas de bajos recursos. En el caso de la generación de código, emplean un modelo entrenado en diversos códigos de fuente abierta en múltiples lenguajes de programación mediante la integración de este modelo con el LLM. Por lo tanto, aprovechando su lógica subyacente de bajo nivel y su destreza de generación, logran un rendimiento superior en tareas que implican explicación y finalización de código en comparación con el rendimiento de los dos modelos base.
Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo. Unirse nuestro SubReddit de más de 35.000 ml, 41k+ comunidad de Facebook, Canal de discordiay LinkedIn Grarriba.
Si te gusta nuestro trabajo, te encantará nuestra newsletter.
Arshad es pasante en MarktechPost. Actualmente cursa su carrera internacional. Maestría en Física del Instituto Indio de Tecnología Kharagpur. Comprender las cosas hasta el nivel fundamental conduce a nuevos descubrimientos que conducen al avance de la tecnología. Le apasiona comprender la naturaleza fundamentalmente con la ayuda de herramientas como modelos matemáticos, modelos de aprendizaje automático e inteligencia artificial.