Compresión de modelos de lenguaje grandes (LLM) | por Shaw Talebi
Haga que los LLM sean 10 veces más pequeños sin sacrificar el rendimiento Este artículo es parte de un serie más grande sobre el uso de modelos de lenguaje grandes…
Aprendizaje continuo eficiente para redes neuronales con compresión en el dominio del tiempo
Los avances en hardware y software han permitido la integración de la IA en dispositivos IoT de bajo consumo, como microcontroladores de consumo ultrabajo. Sin embargo, la implementación de redes…
Investigadores de Google revelan información práctica sobre la destilación de conocimientos para la compresión de modelos
En la actualidad, muchos subcampos de la visión artificial están dominados por modelos de visión a gran escala. Los modelos de última generación desarrollados recientemente para tareas como la segmentación…
Evaluación de la compresión LLM: equilibrio entre eficiencia, confiabilidad y ética en el desarrollo de modelos de lenguaje de IA
Los LLM han demostrado capacidades notables, pero a menudo son demasiado grandes para los dispositivos de consumo. Los modelos más pequeños se entrenan junto con los más grandes o se…
La destilación de datos se combina con la compresión rápida: cómo la Universidad de Tsinghua y LLMLingua-2 de Microsoft están redefiniendo la eficiencia en modelos de lenguaje grandes utilizando técnicas independientes de las tareas
En un esfuerzo de colaboración que subraya la importancia de la investigación interdisciplinaria, los investigadores de la Universidad de Tsinghua y Microsoft Corporation han presentado LLMLingua-2. Este innovador estudio profundiza…
Este documento de inteligencia artificial de NVIDIA propone NGP (primitivas de gráficos neuronales) compacto: un marco de aprendizaje automático que corresponde a tablas hash con sondas aprendidas para una velocidad y compresión óptimas
Las primitivas de gráficos neuronales (NGP) son prometedoras a la hora de permitir la integración fluida de activos nuevos y antiguos en diversas aplicaciones. Representan imágenes, formas, datos volumétricos y…
Conozca EAGLE: un nuevo método de aprendizaje automático para una decodificación LLM rápida basada en compresión
Los modelos de lenguaje grandes (LLM) como ChatGPT han revolucionado el procesamiento del lenguaje natural, mostrando su destreza en diversas tareas relacionadas con el lenguaje. Sin embargo, estos modelos enfrentan…
¿Puede la compresión de documentos recuperados mejorar el rendimiento del modelo de lenguaje? Este artículo de IA presenta RECOMP: mejora de los LM con recuperación aumentada con compresión y aumento selectivo
Optimizar su rendimiento mientras se gestionan los recursos computacionales es un desafío crucial en una era de modelos de lenguaje cada vez más poderosos. Investigadores de la Universidad de Texas…
¿Cómo los grandes modelos de lenguaje están redefiniendo la compresión de datos y brindando información única sobre la escalabilidad del aprendizaje automático? Investigadores de DeepMind presentan un nuevo paradigma de compresión
¿Esta respuesta fue mejor o peor? Mejor Peor Igual Se ha dicho que la teoría de la información y el aprendizaje automático son “dos caras de la misma moneda” debido…