Aikido Security ha lanzado Altar-1, su primer modelo de seguridad de peso abierto. Es una versión comprimida del GLM-5.3 de Z.AI, construida para ejecutarse dentro de la infraestructura que controla el cliente. Altar-1 impulsa Aikido Machine, el dispositivo de pentesting autónomo de la compañía para redes locales y aisladas.
¿Es desplegable? Sí, los pesos son públicos en Hugging Face y se ejecutan con vLLM en un solo nodo de 4 GPU NVIDIA H200.
El problema: el contexto de seguridad no puede abandonar la red
Los modelos de frontera cerrada se ejecutan en la infraestructura de otra persona. Al usarlos, se envía el código fuente, los documentos de arquitectura y los hallazgos no corregidos fuera de la red. El Aikido apunta a los bancos bajo mandatos de residencia de datos y a los operadores de OT sin ruta de Internet.
Los modelos abiertos resuelven el problema de residencia pero crean una brecha de implementación. Los modelos de combinación de expertos (MoE) deben almacenar a todos los expertos, incluso cuando una carga de trabajo utiliza solo unos pocos de ellos. Los agentes de seguridad también construyen un contexto de largo plazo. Ese caché KV compite con los pesos de los modelos por la misma memoria GPU.
Cómo se construyó Altar-1
GLM-5.3 es un modelo MoE de parámetro 753B. Cada token se dirige a 8 de 256 expertos por capa, lo que equivale a unos 40 mil millones de parámetros activos. Aikido aplicó 2 pasos de compresión:
Paso 1-Cuantización: Altar-1 comienza desde el punto de control cyankiwi GLM-5.3-AWQ-INT4. AWQ almacena pesos expertos enrutados en 4 bits, con activaciones de 16 bits (W4A16). Atención, el experto compartido, las capas densas y la cabeza permanecen en BF16. Paso 2- Poda experta: Aikido utilizó Cerebras REAP (poda de activación experta ponderada por enrutador). REAP califica a cada experto por el peso del enrutador y la magnitud de salida, no solo por la frecuencia con la que se selecciona. Altar-1 mantiene a 168 de los 256 expertos derrotados por capa y elimina a 88 (34,4%). No se trata de ningún reentrenamiento.
La calibración utilizó rastros del arnés de prueba de Aikido, además de codificación, llamada de herramientas, razonamiento y texto multilingüe de Wikipedia. Aikido afirma que no se utilizaron datos de clientes. Cada experto recibe una puntuación según su mayor proporción del trabajo enrutado de cualquier dominio. Esto protege a los expertos especializados en código, lenguajes raros y resultados estructurados.
La ruta no ha cambiado. El enrutador todavía elige 8 expertos por token, ahora de 168, con aproximadamente 40 mil millones de parámetros activos.
Altar-1 es un 78,2% más pequeño que BF16 y un 32,8% más pequeño que el padre AWQ. En cuanto a fidelidad, Altar-1 tiene una divergencia KL de 0,506 nats frente a BF16 completo en un panel sellado de 25 mensajes. Una versión EXL3 del mismo corte obtiene una puntuación de 0,511. Los detalles están en el estudio de fidelidad público.