Mi tesis de licenciatura fue un proyecto de investigación sobre procesamiento del lenguaje natural (PNL). Se centró en la generación de textos multilingües en idiomas subrepresentados. Debido a que las métricas existentes tuvieron un desempeño muy deficiente al evaluar los resultados de los modelos entrenados en el conjunto de datos que estaba usando, necesitaba entrenar una métrica de regresión aprendida.
La regresión sería útil para muchas tareas textuales, como por ejemplo:
- Análisis de sentimiento: Prediga la fuerza del sentimiento positivo o negativo en lugar de una simple clasificación binaria.
- Estimación de la calidad de la escritura: Predice qué tan alta es la calidad de un escrito.
Para mi caso de uso, necesitaba que el modelo calificara qué tan buena era la predicción de otro modelo para una tarea determinada. Las filas de mi conjunto de datos consistían en entrada de texto y una etiqueta, 0 (mala predicción) o 1 (buena predicción).
- Aporte: Texto
- Etiqueta: 0 o 1
- La tarea: Predecir una probabilidad numérica entre 0 y 1
Pero los modelos basados en transformadores se suelen utilizar para tareas de generación. ¿Por qué utilizarías un LM previamente entrenado para…?