Mejorar los modelos de lenguaje recuperando billones de tokens
En los últimos años, se han logrado importantes mejoras de rendimiento en el modelado de lenguaje autorregresivo aumentando el número de parámetros en los modelos Transformer. Esto ha llevado a…