Desde Softmax hasta SSMAX: Mejora de la atención y la recuperación de información clave en Transformers
Modelos de idiomas basados en transformadores Procesar texto analizando las relaciones de palabras en lugar de leer en orden. Utilizan mecanismos de atención para centrarse en las palabras clave, pero…