NVIDIA AI lanza Dynamo Snapshot: un sistema de inicio rápido basado en CRIU para inferencia de IA en Kubernetes
En las implementaciones de inferencia de producción, la demanda fluctúa con el tiempo, lo que requiere que las réplicas de inferencia escalen de manera elástica. El inicio en frío de…