La aparición de grandes modelos de lenguaje (LLM) como Llama, PaLM y GPT-4 ha revolucionado el procesamiento del lenguaje natural (NLP), avanzando significativamente en la comprensión y generación de textos. Sin embargo, a pesar de sus notables capacidades, los LLM son propensos a producir alucinaciones, contenido que es objetivamente incorrecto o inconsistente con las entradas del usuario. Este fenómeno desafía sustancialmente su confiabilidad en aplicaciones del mundo real, lo que requiere una comprensión integral de sus principios, causas y estrategias de mitigación.
Definición y tipos de alucinaciones
Las alucinaciones en los LLM generalmente se clasifican en dos tipos principales: alucinaciones de factualidad y alucinaciones de fidelidad.
- Alucinación objetiva: Este tipo implica discrepancias entre el contenido generado y hechos verificables del mundo real. Se divide además en:
- Inconsistencia fáctica: Ocurre cuando el resultado contiene información fáctica que contradice hechos conocidos. Por ejemplo, un LLM podría afirmar incorrectamente que Charles Lindbergh fue el primero en caminar sobre la luna en lugar de Neil Armstrong.
- Fabricación fáctica: Implica la creación de hechos totalmente no verificables, como inventar detalles históricos sobre los unicornios.
- Alucinación de fidelidad: Este tipo se refiere a la divergencia del contenido generado con respecto a las instrucciones del usuario o el contexto proporcionado. Incluye:
- Inconsistencia de instrucciones: Cuando el resultado no sigue la directiva del usuario, como responder una pregunta en lugar de traducirla según las instrucciones.
- Inconsistencia de contexto: Ocurre cuando el contenido generado contradice la información contextual proporcionada, como por ejemplo tergiversar el origen del río Nilo.
- Inconsistencia lógica: Implica contradicciones internas dentro del contenido generado, a menudo observadas en tareas de razonamiento.
Causas de alucinaciones en LLM
Las causas fundamentales de las alucinaciones en los LLM abarcan todo el espectro del desarrollo, desde la adquisición de datos hasta el entrenamiento y la inferencia. Estas causas se pueden clasificar ampliamente en tres partes:
1. Causas relacionadas con los datos:
- Fuentes de datos defectuosas: La información errónea y los sesgos en los datos previos al entrenamiento pueden provocar alucinaciones. Por ejemplo, los métodos heurísticos de recopilación de datos pueden introducir inadvertidamente información incorrecta, lo que lleva a falsedades imitativas.
- Límites del conocimiento: Los LLM pueden carecer de conocimientos fácticos o de dominio especializados actualizados, lo que resulta en fabricaciones fácticas. Por ejemplo, podrían proporcionar información desactualizada sobre eventos recientes o necesitar más experiencia en campos médicos específicos.
- Utilización de datos inferior: Los LLM pueden producir alucinaciones debido a correlaciones espurias y fallas en la recuperación de conocimientos, incluso con conocimientos amplios. Por ejemplo, podrían afirmar incorrectamente que Toronto es la capital de Canadá debido a la frecuente aparición simultánea de “Toronto” y “Canadá” en los datos de capacitación.
2. Causas relacionadas con la capacitación:
- Defectos de arquitectura: La naturaleza unidireccional de las arquitecturas basadas en transformadores puede obstaculizar la capacidad de capturar dependencias contextuales intrincadas, aumentando el riesgo de alucinaciones.
- Sesgo de exposición: Las discrepancias entre el entrenamiento (donde los modelos se basan en tokens de verdad sobre el terreno) y la inferencia (donde los modelos se basan en sus resultados) pueden provocar errores en cascada.
- Problemas de alineación: La desalineación entre las capacidades del modelo y las demandas de los datos de alineación puede provocar alucinaciones. Además, la desalineación de creencias, donde los modelos producen resultados que divergen de sus creencias internas para alinearse con la retroalimentación humana, también puede causar alucinaciones.
3. Causas relacionadas con la inferencia:
- Estrategias de decodificación: La aleatoriedad inherente a las estrategias de muestreo estocástico puede aumentar la probabilidad de sufrir alucinaciones. Las temperaturas de muestreo más altas dan como resultado distribuciones de probabilidad de tokens más uniformes, lo que lleva a la selección de tokens menos probables.
- Representaciones de decodificación imperfecta: La atención insuficiente al contexto y el cuello de botella de softmax pueden limitar la capacidad del modelo para predecir el siguiente token, lo que provoca alucinaciones.
Estrategias de mitigación
Se han desarrollado varias estrategias para abordar las alucinaciones, mejorar la calidad de los datos, mejorar los procesos de entrenamiento y perfeccionar los métodos de decodificación. Los enfoques clave incluyen:
- Mejora de la calidad de los datos: Garantizar la precisión e integridad de los datos de capacitación para minimizar la introducción de información errónea y sesgos.
- Mejoras en la formación: Desarrollar mejores diseños arquitectónicos y estrategias de capacitación, como modelos de contexto bidireccionales y técnicas para mitigar el sesgo de exposición.
- Técnicas avanzadas de decodificación: Emplear métodos de decodificación más sofisticados que equilibren la aleatoriedad y la precisión para reducir la aparición de alucinaciones.
Conclusión
Las alucinaciones en los LLM presentan desafíos importantes para su implementación práctica y confiabilidad. Comprender los diversos tipos y causas subyacentes de las alucinaciones es crucial para desarrollar estrategias de mitigación efectivas. Al mejorar la calidad de los datos, mejorar las metodologías de capacitación y perfeccionar las técnicas de decodificación, la comunidad de PNL puede trabajar para crear LLM más precisos y confiables para aplicaciones del mundo real.
Fuentes
- https://arxiv.org/pdf/2311.05232
A Sana Hassan, pasante de consultoría en Marktechpost y estudiante de doble titulación en IIT Madras, le apasiona aplicar la tecnología y la inteligencia artificial para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida real.