Supersonic Labs lanza Julia 1: un modelo de decisión abierta con 144,3 millones de parámetros que se ejecuta en una CPU

Supersonic Labs, un pequeño laboratorio de inteligencia artificial de Brasil, lanzó Julia 1. Es un modelo de decisión compacto, no un chatbot. Le pasa contexto, una pregunta y de 2 a 20 respuestas de candidatos. Elige una y devuelve una probabilidad para cada opción. El modelo tiene 144,3 millones de parámetros y se ejecuta en una CPU simple.

¿Es desplegable? Sí. Los pesos están en Hugging Face bajo Apache 2.0 y se ejecutan localmente con Python 3.11+ en CPU o una GPU compatible con BF16. Una compilación ONNX también se ejecuta en el navegador a través de WebGPU. Se anuncia una API alojada, pero aún no está abierta.

Lo que hace Julia 1

Julia 1 maneja tres tipos de decisiones a través de una API:

elección: elija una etiqueta entre 2 y 20 opciones descritas (clasificación, ruta). puntuación: devuelve el índice esperado en una rúbrica ordenada, como baja, media, alta. noul: devuelve la probabilidad de que una afirmación de sí o no sea verdadera.

Los resultados regresan en el orden de opciones de la persona que llama con probabilidades softmax completas. Los identificadores de llamadas, como la facturación, se devuelven sin cambios. El modelo no genera texto.

Presupuesto de Arquitectura y Formación

Julia 1 parte del mmBERT-small de JHU CLSP, un codificador ModernBERT multilingüe de 140M de parámetros entrenado en más de 1.800 idiomas. Supersonic Labs conservó el codificador y el tokenizador, agregó un cabezal de decisión y se capacitó con ejemplos de formato de decisión. El laboratorio afirma que Julia 1 no es un modelo Qwen ajustado. El tiempo de ejecución admite 8192 tokens combinados, pero los puntos de referencia publicados utilizaron un límite de 1024 tokens.

El gasto total de GPU en la nube para capacitación y experimentos fue de aproximadamente R$ 540 (US$ 104,08). Las pesas del FP32 ocupan 550,5 MiB. La cartera de formación privada no se publica. Julia 2, con la arquitectura de base propia del laboratorio, está en desarrollo.

Resultados de referencia

La evaluación del 24 de septiembre de 2026 se realizó en H200 BF16 con codificación estricta. La línea de base de comparación es Jev de TypeSafe, que utiliza valores de referencia del protocolo de referencia de Jev, no una nueva ejecución de Jev.

Decisiones mecanografiadas: 73,15% (1.463/2.000) vs 72,70% de referencia. AG News, 4 etiquetas: 94/100 vs 91% de referencia. DAIR Emotion, 6 etiquetas: 86/100 vs 48% de referencia. Banca77, 72 etiquetas: 64/100 vs 87% de referencia. Éste es el claro fracaso. MASIVO, 18 escenarios: 71,50 % de precisión macro en 52 ubicaciones; 86,25% pt-PT, 86,75% en-EE.UU.

Los pilotos de clasificación utilizan sólo 100 ejemplos cada uno. Una ejecución de CPU del 25 de septiembre reprodujo la mayoría de las cifras: 72,55% en decisiones escritas y 60/100 en banca77 con 3 abstenciones.

Latencia en el dispositivo

El laboratorio publicó mediciones por dispositivo. En un Apple M4, una respuesta por llamada tomó un promedio de 33,15 ms. En una tableta Samsung SM-X510 a través de ONNX Runtime, la mediana fue de 203 ms con 393,1 MB de RSS máximo. En un Intel Core i5-1235U, las decisiones de AG News tomaron una media de 107,83 ms. Banking77 tardó 3.713,54 ms porque reduce 72 etiquetas primero.

En X, @supersonicai afirma que Julia 1 clasifica 5 veces más rápido que Jev en una computadora portátil i5. Trátelo con cuidado. El piloto de Jev midió a Jev como un servicio alojado llamado desde Francia, por lo que las latencias no son comparables.

Explicador interactivo