Ejecución de un modelo de incorporación de parámetros SOTA 7B en una sola GPU | de Szymon Palucha | agosto de 2024
Configuración El modelo con el que experimentaremos es el Alibaba-NLP/gte-Qwen2-7B-instruct De Transformers. La tarjeta modelo es aquí. Para realizar este experimento, he utilizado Python 3.10.8 e instalado los siguientes paquetes:…