Meta AI presenta MetaRoCE: un transporte RDMA de hoja limpia creado para Ethernet a escala de IA
Entrenar y servir modelos de frontera es ahora un problema de red tanto como un problema de computación. Operaciones colectivas como reducción total y sincronización total de miles de aceleradores…