Los modelos de lenguaje (LM) muestran un mejor rendimiento con un mayor tamaño y datos de entrenamiento, pero la relación entre la escala del modelo y las alucinaciones sigue sin explorarse. Definir las alucinaciones en los LM presenta desafíos debido a sus variadas manifestaciones. Un nuevo estudio de Google Deepmind se centra en las alucinaciones en las que las respuestas correctas aparecen textualmente en los datos de entrenamiento. Lograr tasas bajas de alucinaciones requiere modelos más grandes y más recursos computacionales de lo que se creía anteriormente. La detección de alucinaciones se vuelve cada vez más difícil a medida que aumenta el tamaño de los LM. Los gráficos de conocimiento (KG) ofrecen un enfoque prometedor para proporcionar datos de entrenamiento estructurados y factuales para los LM, lo que potencialmente mitiga las alucinaciones.
El estudio investiga la relación entre la escala del modelo de lenguaje (LM) y las alucinaciones, centrándose en los casos en los que hay respuestas correctas en los datos de entrenamiento. Utilizando un conjunto de datos basado en gráficos de conocimiento (KG), los investigadores entrenan LM cada vez más grandes para controlar el contenido de entrenamiento de manera efectiva. Los hallazgos indican que los LM más grandes y entrenados durante más tiempo alucinan menos, pero lograr tasas bajas de alucinaciones requiere significativamente más recursos de lo que se creía anteriormente. El estudio también revela una relación inversa entre la escala LM y la detectabilidad de las alucinaciones.
Definir y cuantificar con precisión las alucinaciones en entornos de lenguaje natural sigue siendo un desafío debido a la ambigüedad del lenguaje y al contenido de conocimiento poco claro en los datos de entrenamiento. A pesar de los avances en las capacidades generativas, las alucinaciones persisten como un desafío importante para los modelos de aprendizaje. La investigación aborda la brecha en la comprensión de cómo las alucinaciones dependen de la escala del modelo. Los gráficos de conocimiento ofrecen un enfoque estructurado para el entrenamiento de modelos de aprendizaje, lo que permite una verificación sencilla de los hechos frente al conjunto de datos y proporciona una medida cuantificable de la alucinación.
Los modelos de lenguaje tradicionales (LM) entrenados con datos de lenguaje natural suelen producir alucinaciones e información repetitiva debido a la ambigüedad semántica. El estudio emplea un enfoque de gráfico de conocimiento (KG), utilizando tripletes estructurados de información para proporcionar una comprensión más clara de cómo los LM tergiversan los datos de entrenamiento. Este método permite una evaluación más precisa de las alucinaciones y su relación con la escala del modelo.
El estudio construye un conjunto de datos utilizando tripletes de gráficos de conocimiento (sujeto, predicado, objeto), lo que permite un control preciso sobre los datos de entrenamiento y la medición cuantificable de las alucinaciones. Los modelos de lenguaje (LM) se entrenan desde cero en este conjunto de datos, optimizando la verosimilitud autorregresiva. La evaluación implica incitar a los modelos con sujeto y predicado, y evaluar la precisión de la finalización del objeto en comparación con el gráfico de conocimiento. Las tareas de token y los detectores de cabeza evalúan el rendimiento de la detección de alucinaciones. La metodología se centra en las alucinaciones en las que las respuestas correctas aparecen textualmente en el conjunto de entrenamiento, explorando la relación entre la escala LM y la frecuencia de las alucinaciones.
La investigación entrena LM cada vez más grandes para investigar los efectos de escala en las tasas de alucinaciones y la detectabilidad. El análisis revela que los LM más grandes y entrenados durante más tiempo alucinan menos, aunque los conjuntos de datos más grandes pueden aumentar las tasas de alucinaciones. Los autores reconocen las limitaciones en la generalización a todos los tipos de alucinaciones y el uso de modelos más pequeños que los de última generación. Este enfoque integral proporciona información sobre las alucinaciones LM y su detectabilidad, lo que contribuye al campo del procesamiento del lenguaje natural.
El estudio revela que los modelos de lenguaje más grandes y el entrenamiento extendido reducen las alucinaciones en conjuntos de datos fijos, mientras que un mayor tamaño de los conjuntos de datos eleva las tasas de alucinaciones. Los detectores de alucinaciones muestran una alta precisión, que mejora con el tamaño del modelo. La detección a nivel de token generalmente supera a otros métodos. Existe un equilibrio entre el recuerdo de hechos y la capacidad de generalización, ya que el entrenamiento extendido minimiza las alucinaciones en datos vistos pero corre el riesgo de sobreajuste en datos no vistos. El AUC-PR sirve como una medida confiable del rendimiento del detector. Estos hallazgos resaltan la compleja relación entre la escala del modelo, el tamaño del conjunto de datos y las tasas de alucinaciones, lo que enfatiza la importancia de equilibrar el tamaño del modelo y la duración del entrenamiento para mitigar las alucinaciones y, al mismo tiempo, abordar los desafíos que plantean los conjuntos de datos más grandes.
En conclusión, el estudio revela que los modelos de lenguaje más grandes y con un entrenamiento más prolongado muestran tasas de alucinaciones reducidas, pero lograr alucinaciones mínimas requiere recursos computacionales sustanciales. Un mayor tamaño del conjunto de datos se correlaciona con tasas de alucinaciones más altas cuando el tamaño del modelo y las épocas de entrenamiento permanecen constantes. Existe un equilibrio entre la memorización y la generalización, ya que un entrenamiento extendido mejora la retención de datos pero potencialmente obstaculiza la adaptabilidad a nuevos datos. Paradójicamente, a medida que los modelos se hacen más grandes y alucinan menos, la detección de alucinaciones restantes se vuelve más difícil. Las investigaciones futuras deberían centrarse en mejorar la detección de alucinaciones en modelos más grandes y explorar las implicaciones prácticas de estos hallazgos para las aplicaciones de los modelos de lenguaje.
Echa un vistazo a la Papel. Todo el crédito por esta investigación corresponde a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de Telegram y LinkedIn Gr¡Arriba!. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa..
No olvides unirte a nuestro Subreddit de más de 48 000 millones de usuarios
Encuentra lo próximo Seminarios web sobre IA aquí
Shoaib Nazir es pasante de consultoría en MarktechPost y ha completado su doble titulación de máster en tecnología en el Instituto Indio de Tecnología (IIT) de Kharagpur. Siendo un gran apasionado de la ciencia de datos, le interesan especialmente las diversas aplicaciones de la inteligencia artificial en diversos ámbitos. Shoaib está impulsado por el deseo de explorar los últimos avances tecnológicos y sus implicaciones prácticas en la vida cotidiana. Su entusiasmo por la innovación y la resolución de problemas del mundo real alimenta su continuo aprendizaje y contribución al campo de la IA.