Aunque los modelos de PNL han demostrado fortalezas extraordinarias, también presentan desafíos. La necesidad de enseñar ideas a estos modelos se pone de relieve por valores inaceptables enterrados en sus datos de capacitación, fallas recurrentes o violaciones de los estándares comerciales. La frase “la religión no connota sentimiento” es un ejemplo de una noción que vincula una colección de aportaciones a comportamientos deseados. De manera similar, la idea más amplia de “monotonicidad descendente” en el dominio de la inferencia del lenguaje natural (NLI) describe relaciones de vinculación cuando ciertas partes de las afirmaciones se hacen más precisas (por ejemplo, “A todos los gatos les gusta el atún” implica “A todos los gatos pequeños les gusta el atún”). atún”). Introducir datos de entrenamiento nuevos que demuestren la idea, como introducir frases neutrales que contengan términos religiosos o agregar pares de vinculación que muestren monotonicidad descendente, es el método tradicional de enseñar conceptos a los modelos.
Es difícil garantizar que los datos presentados no resulten en atajos, es decir, correlaciones o heurísticas falsas, que permiten a los modelos hacer predicciones sin comprender realmente el concepto subyacente, como por ejemplo “todas las oraciones con términos religiosos son neutrales” o “pasar de Lo general a lo específico conduce a la implicación”. El modelo también puede sobreajustarse, al no poder generalizar a partir de los ejemplos proporcionados a la noción real, por ejemplo, reconociendo únicamente pares de la forma (“todo X…”, “todo ADJETIVO X…”). No pares como (“todos los animales comen” o “todos los gatos comen”). Finalmente, los atajos y el sobreajuste tienen el potencial de interferir con los datos originales u otras ideas, por ejemplo, al causar fallas en declaraciones como “Amo el Islam” o combinaciones como “A algunos gatos les gusta el atún”, “A algunos gatos pequeños les gusta el atún, ” etc.
En conclusión, poner en práctica ideas es difícil porque los usuarios frecuentemente necesitan ayuda para prever todos los límites e interacciones de los conceptos. Una posible opción es pedir a expertos en la materia que produzcan datos que ilustren de forma completa y precisa el concepto como factible, como el conjunto de datos de diagnóstico GLUE o el conjunto de pruebas FraCaS. Sin embargo, estos conjuntos de datos suelen ser costosos de producir, limitados (y por lo tanto inadecuados para la capacitación) e incompletos, ya que incluso los especialistas a veces pasan por alto detalles y sutilezas importantes de un tema. Otro método es utilizar entrenamiento adversario o pruebas adaptativas, donde los usuarios ingresan datos progresivamente mientras obtienen comentarios del modelo. Estos pueden revelar y abordar fallas del modelo sin requerir que los usuarios planifiquen todo.
Por el contrario, ni el entrenamiento adversario ni las pruebas adaptativas abordan directamente la idea de ideas, ni abordan cómo un concepto interactúa con otro o con los datos originales. Es posible que los usuarios necesiten ayuda para investigar adecuadamente los límites de las ideas. Como resultado, necesitan ayuda para determinar cuándo un concepto ha sido cubierto adecuadamente o si ha causado interferencia con otros conceptos. Investigadores de Microsoft describen el desarrollo colaborativo de modelos de PNL (CoDev) en este estudio. En lugar de depender de un único usuario, CoDev utiliza la experiencia combinada de numerosos usuarios para cubrir una amplia gama de temas.
Dependen de la idea de que los modelos muestran comportamientos más simples en regiones pequeñas y entrenan un modelo local para cada concepto además de un modelo global que incorpora los datos iniciales y cualquier idea adicional. Luego, el LLM debe proporcionar casos en los que los modelos local y global entren en conflicto. Estos casos son en los que el modelo local aún no está completamente desarrollado o en los que el modelo global continúa produciendo errores conceptuales debido al sobreajuste o la dependencia de atajos. Ambos modelos se actualizan cuando los usuarios anotan estas instancias hasta la convergencia o hasta que la idea se haya aprendido de una manera que no contradiga la información o conceptos previos (Figura 1).
Figura 1: Bucle CoDev para poner en práctica un concepto único. (a) El usuario comienza proporcionando algunos datos iniciales del concepto y sus etiquetas, (b) se utilizan para aprender un modelo de concepto local. Luego se solicita a GPT-3 que genere nuevos ejemplos, priorizando aquellos en los que el modelo local no está de acuerdo con el modelo global. (d) Los desacuerdos reales se muestran al usuario para que los etiquete, y (e) cada etiqueta mejora el modelo local o global. El bucle cde se repite hasta la convergencia, es decir, hasta que el usuario haya operacionalizado el concepto y el modelo global lo haya aprendido.
Cada modelo local es un especialista barato en su concepto y está siempre en desarrollo. Los usuarios pueden investigar los límites entre las ideas y los datos existentes gracias a las rápidas predicciones del modelo local y las diversas instancias del LLM, lo cual es una investigación que sería difícil para los usuarios realizar por sí solos. Sus hallazgos experimentales demuestran la eficacia de CoDev a la hora de poner en práctica conceptos y gestionar la interferencia. Primero demuestran que, al identificar y resolver problemas más a fondo, CoDev supera a AdaTest, una herramienta SOTA para depurar modelos de PNL basados en GPT-3. Luego muestran que CoDev supera a un modelo que depende exclusivamente de la recopilación de datos al poner en práctica ideas incluso cuando el usuario comienza con datos sesgados.
Al utilizar una forma simplificada de CoDev, en la que eligen de forma iterativa muestras de un conjunto de datos sin etiquetar en lugar de GPT-3, pueden comparar el proceso de selección de datos de CoDev con la selección aleatoria y el muestreo de incertidumbre. Demuestran que CoDev supera ambas líneas de base cuando enseña un modelo de análisis de sentimientos sobre reseñas de productos de Amazon y un modelo NLI sobre ideas monótonas hacia abajo y hacia arriba. Finalmente, demostraron que CoDev ayudó a los usuarios a perfeccionar sus conceptos en una investigación piloto.
Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides unirte. nuestro SubReddit de 31k+ ML, Comunidad de Facebook de más de 40.000 personas, Canal de discordia, y Boletín electrónicodonde compartimos las últimas noticias sobre investigaciones de IA, interesantes proyectos de IA y más.
Si te gusta nuestro trabajo, te encantará nuestra newsletter.
Aneesh Tickoo es pasante de consultoría en MarktechPost. Actualmente está cursando su licenciatura en Ciencia de Datos e Inteligencia Artificial en el Instituto Indio de Tecnología (IIT), Bhilai. Pasa la mayor parte de su tiempo trabajando en proyectos destinados a aprovechar el poder del aprendizaje automático. Su interés de investigación es el procesamiento de imágenes y le apasiona crear soluciones en torno a él. Le encanta conectarse con personas y colaborar en proyectos interesantes.
