Snowflake anunció recientemente el lanzamiento de Embebido Ártico L 2.0 y Ártico Incrustar M 2.0dos modelos de integración pequeños y potentes diseñados para búsqueda y recuperación multilingüe. Los modelos Arctic Embed 2.0 están disponibles en dos variantes distintas: mediana y grande. Basado en el marco multilingüe GTE de Alibaba, el modelo mediano incorpora 305 millones de parámetros, de los cuales 113 millones son parámetros no integrados. La variante grande se basa en una adaptación de contexto largo del XMLR-Large de Facebook y alberga 568 millones de parámetros, incluidos 303 millones de parámetros no integrados. Ambos modelos admiten longitudes de contexto de hasta 8192 tokens, lo que los hace versátiles para aplicaciones que requieren una comprensión contextual amplia.
La innovación detrás de Arctic Embed 2.0 radica en su capacidad de proporcionar recuperación de alta calidad en múltiples idiomas y al mismo tiempo conservar las capacidades superiores de recuperación en inglés de sus predecesores. El equipo de Snowflake equilibró cuidadosamente estas demandas multilingües, lo que permitió que Arctic Embed 2.0 superara incluso a los modelos solo en inglés en pruebas comparativas en idioma inglés, como la prueba MTEB Retrieval. Además, estos modelos demostraron un rendimiento notable en puntos de referencia multilingües, incluidos CLEF y MIRACL, logrando puntuaciones nDCG@10 más altas en idiomas como alemán, francés, español e italiano.
A pesar de su tamaño compacto en relación con otros modelos de vanguardia, los modelos Arctic Embed 2.0 ofrecen un rendimiento de integración rápido. Las pruebas en las GPU NVIDIA A10 revelaron la capacidad del modelo grande para procesar más de 100 documentos por segundo con una latencia de incorporación de consultas inferior a 10 ms. Esta eficiencia facilita la implementación en hardware rentable, una ventaja crucial para las empresas que gestionan datos a gran escala. La versión también incluye funciones avanzadas como Matryoshka Representation Learning (MRL), una técnica diseñada para la recuperación escalable. Con MRL, los usuarios pueden comprimir incrustaciones a tan solo 128 bytes por vector, una relación de compresión 96 veces menor que las incrustaciones sin comprimir de algunos modelos propietarios como text-embedding-3-large de OpenAI.
Arctic Embed 2.0, lanzado bajo la licencia Apache 2.0, permite a las organizaciones modificar e implementar modelos, garantizando una amplia aplicabilidad en diversas industrias y casos de uso. Este movimiento subraya la dedicación de Snowflake a democratizar las herramientas de IA, como lo destacó Clément Delangue, director ejecutivo de Hugging Face, quien elogió la contribución de estos modelos a la comunidad global de IA. Los modelos sobresalen en evaluaciones dentro del dominio como MIRACL y escenarios fuera del dominio probados a través de puntos de referencia CLEF. Esta generalización es una mejora fundamental con respecto a los modelos anteriores, que a menudo mostraban tendencias de sobreajuste hacia conjuntos de datos específicos.
En comparación con otros modelos propietarios y de código abierto, Arctic Embed 2.0 es líder en calidad de recuperación multilingüe y en inglés. Si bien algunos modelos existentes obligan a los usuarios a elegir entre mantener un alto rendimiento de recuperación en inglés o agregar complejidad operativa para soporte multilingüe, Arctic Embed 2.0 ofrece una solución unificada. Sus incorporaciones multilingües eliminan la necesidad de modelos separados, lo que simplifica los flujos de trabajo y logra resultados de primer nivel. Otro punto destacado de esta versión es su compatibilidad con la recuperación a escala de nivel empresarial. Las integraciones compactas de los modelos y su sólido rendimiento los hacen ideales para empresas que buscan manejar grandes depósitos de documentos de manera eficiente.
En conclusión, Arctic Embed L 2.0 y Arctic Embed M 2.0 representan un salto en los modelos de integración multilingüe. Con su eficiencia, escalabilidad y calidad incomparables, estos modelos establecen un nuevo estándar para las tareas de recuperación a escala global. El lanzamiento de Snowflake permite a las organizaciones abordar los desafíos multilingües de manera efectiva y refuerza su papel como pionero en el panorama de la IA.
Verificar el Embebido Ártico L 2.0 y Ártico Incrustar M 2.0. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa.. No olvides unirte a nuestro SubReddit de más de 60.000 ml.
🚨 [Must Attend Webinar]: ‘Transformar pruebas de concepto en aplicaciones y agentes de IA listos para producción’ (Promovido)
Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como emprendedor e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.