Screenshot 2024 03 28 At 11.04.00 Pm.png

En el panorama en rápida evolución de la inteligencia artificial, el fabricante de chips de IA SambaNova Systems ha logrado un nuevo hito con su innovador Modelo de lenguaje grande (LLM) Samba-CoE v0.2. Este modelo no solo ha superado a sus contemporáneos, incluido el DBRX recientemente lanzado de Databricks, sino que también ha establecido un nuevo punto de referencia en eficiencia y rendimiento en el dominio de la IA.

El Modelo Samba-CoE v0.2 opera a una velocidad impresionante de 330 tokens por segundo, una hazaña que logra con solo 8 enchufes. Esto contrasta marcadamente con los modelos de la competencia que requieren 576 sockets y operan a tasas de bits más bajas, lo que muestra un salto monumental en la eficiencia informática. La importancia de este logro se hace evidente al considerar la capacidad del modelo para ofrecer respuestas precisas y rápidas, como lo demuestra una respuesta de 425 palabras sobre la Vía Láctea entregada en sólo 330,42 segundos.

Además, el anuncio de SambaNova Systems del próximo Samba-CoE v0.3, en colaboración con LeptonAI, indica un progreso continuo y un compromiso con la innovación. Este desarrollo continuo subraya la estrategia de la compañía de emplear una cantidad menor de sockets sin comprometer las velocidades de bits, lo que indica un avance significativo en el rendimiento del modelo y la eficiencia informática.

El enfoque único de SambaNova para el desarrollo de modelos, que incluye el ensamblaje y la fusión de modelos basados ​​en modelos de código abierto de Samba-1 y Sambaverse, muestra su dedicación a la escalabilidad y la innovación. Esta metodología no sólo respalda el éxito de la versión actual sino que también allana el camino para futuros avances.

Los logros de la compañía la han colocado a la vanguardia de las discusiones dentro de las comunidades de inteligencia artificial y aprendizaje automático, particularmente en torno a temas de eficiencia, rendimiento y la trayectoria futura del desarrollo de modelos de inteligencia artificial. Estas conversaciones son fundamentales para comprender las implicaciones de estos avances tecnológicos en aplicaciones más amplias de IA y su potencial para impulsar la innovación en diversos sectores.

SambaNova Systems, fundada en Palo Alto, California, en 2017, comenzó como una startup centrada en la creación de chips de hardware de IA personalizados. Desde entonces, ha ampliado su alcance para incluir servicios de aprendizaje automático y SambaNova Suite, lo que marca su transformación en un innovador de IA de servicio completo. A principios de este año, la compañía presentó Samba-1, un modelo de IA de 1 billón de parámetros compuesto por 50 modelos más pequeños, estableciendo aún más su compromiso de ampliar los límites de la tecnología de IA.

Conclusiones clave:

  • SambaNova Systems ha presentado el modelo de lenguaje grande Samba-CoE v0.2, que opera a una velocidad incomparable de 330 tokens por segundo con solo 8 sockets, estableciendo un nuevo estándar en eficiencia y rendimiento del modelo de IA.
  • El próximo lanzamiento de Samba-CoE v0.3, en asociación con LeptonAI, destaca el compromiso continuo de SambaNova con la innovación y el progreso en el campo de la IA.
  • El enfoque de SambaNova para el desarrollo de modelos, aprovechando el ensamblaje y la fusión de modelos, muestra su dedicación a la escalabilidad y el avance tecnológico.
  • Los logros de la empresa están provocando importantes debates dentro de las comunidades de IA y aprendizaje automático, centrándose en las implicaciones de estos avances para el futuro de la tecnología de IA.
  • Fundada en 2017, SambaNova Systems ha evolucionado desde una startup centrada en hardware hasta un innovador de IA de servicio completo, demostrando su capacidad para liderar y transformar la industria de la IA.


Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como emprendedor e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.