Web de actualidad independiente
En el mundo de alto riesgo de la infraestructura de IA, la industria ha operado bajo un supuesto singular: la flexibilidad es la reina. Construimos GPU de uso general porque…
es parte de una serie sobre IA distribuida en múltiples GPU: Introducción Antes de sumergirnos en técnicas avanzadas de paralelismo, debemos comprender las tecnologías clave que permiten que las GPU…
es parte de una serie sobre IA distribuida en múltiples GPU: Parte 1: Comprensión del paradigma de host y dispositivo (este artículo) Parte 2: Operaciones colectivas y punto a punto…
A medida que los modelos de aprendizaje profundo crecen y los conjuntos de datos se expanden, los profesionales se enfrentan a un cuello de botella cada vez más común: el…
NVIDIA anunció hoy una expansión significativa de su colaboración estratégica con Mistral AI. Esta asociación coincide con el lanzamiento de la nueva familia de modelos abiertos Mistral 3 Frontier, lo…
¿Cómo pueden los equipos ejecutar billones de modelos de lenguaje de parámetros en clústeres de GPU mixtos existentes sin hardware nuevo costoso o una fuerte dependencia del proveedor? El equipo…
Maya Research ha lanzado Maya1, un modelo de texto a voz con parámetros 3B que convierte texto más una breve descripción en voz expresiva y controlable mientras se ejecuta en…
¿Cómo pueden los equipos de IA ejecutar el aprendizaje por refuerzo al estilo Tinker en modelos de lenguaje grandes utilizando su propia infraestructura con un único motor unificado? Anyscale y…
El servicio de modelos de lenguaje grande a menudo desperdicia memoria de GPU porque los motores reservan previamente grandes regiones de caché KV estáticas por modelo, incluso cuando las solicitudes…
ServiceNow AI Research Lab ha lanzado Apriel-1.5-15B-Pensador, un modelo de razonamiento multimodal de peso abierto de 15 mil millones de parámetros entrenado con una receta de entrenamiento medio centrado en…