Los flujos de trabajo de múltiples agentes han cambiado la forma de la inferencia local. Un agente principal descompone una tarea y genera subagentes. Lo que parecía una solicitud de usuario se convierte en docenas de llamadas de modelos independientes. Dirigidas a un único motor local, esas llamadas compiten por los mismos espacios de ejecución. La cola crece mientras una estación de trabajo, computadora portátil o DGX Spark en la misma red permanece inactiva.
NVIDIA Personal AI Router (PAIR) apunta exactamente a ese cuello de botella. Anunciado esta semana, PAIR es un enrutador de inferencia virtual. Descubre máquinas compatibles en una red doméstica y programa solicitudes de inferencia independientes entre ellas. No es un nuevo motor de inferencia. Ollama o LM Studio aún ejecutan el modelo en cualquier nodo que PAIR seleccione.
¿Es desplegable? Sí. PAIR se envía hoy como una versión beta pública (v0.1.1) con instaladores firmados para Windows, macOS y Linux, y el código fuente completo está en GitHub bajo Apache 2.0. Se ejecuta completamente en la red local y solo se necesita Internet para descargar modelos.
Sin nueva API
La decisión de diseño que más importa es que PAIR no introduce ninguna API de clúster. Sirve como proxy de las interfaces compatibles con Ollama y LM Studio que los agentes ya utilizan, asumiendo el puerto predeterminado que utiliza cada motor. Si un arnés escucha en otro lugar, el puerto proxy se puede configurar en la configuración del motor de PAIR. El repositorio también expone puntos finales de proxy compatibles con OpenAI.
La consecuencia: los arneses de agentes existentes no necesitan cambios. El agente decide qué trabajo solicitar. PAIR decide dónde corre.
Descubrimiento, emparejamiento y transporte.
PAIR utiliza mDNS para encontrar sistemas cercanos automáticamente. Se puede agregar un nodo por dirección IP cuando falla el descubrimiento. La confianza se establece mediante un PIN de seis dígitos que se muestra en la máquina que invita y se ingresa en la máquina invitada. Toda comunicación de nodo a nodo se bloquea hasta que se completa el emparejamiento. Luego, el tráfico entre nodos emparejados se protege con mTLS mediante certificados generados.
Cada nodo ejecuta Ollama o LM Studio. PAIR puede instalar un motor e iniciar descargas de modelos en sistemas emparejados, eliminando la mayor parte del trabajo de configuración entre máquinas.
Cómo el planificador elige un nodo
Un nodo se vuelve elegible para una solicitud solo cuando el motor requerido está habilitado y el modelo solicitado exacto está presente. No es necesario que los modelos sean idénticos en todo el clúster, diferentes sistemas pueden contener diferentes modelos y EMPAREJAR rutas según la ubicación del modelo. Cargar la misma etiqueta en más nodos simplemente amplía el grupo elegible.
Para cada solicitud, el planificador pesa cinco señales. ¿Está el nodo en línea y listo? ¿Está habilitado un motor compatible? ¿Está presente el modelo exacto? ¿Cuál es la carga de trabajo actual del nodo y del motor? ¿Cuál es la utilización de GPU existente?
Se trata de simultaneidad a nivel de carga de trabajo y el límite es explícito. PAIR asigna cada solicitud a un nodo elegible, donde permanece durante toda su vida. No agrupa VRAM, no fusiona GPU en un acelerador más grande ni fragmenta una sola solicitud entre máquinas.