Cohere ha lanzado North Small Translate, un modelo de traducción automática de peso abierto de Cohere y Cohere Labs. Es un modelo escaso de mezcla de expertos (MoE) con 218 mil millones de parámetros activos y un total de 25 mil millones. Cubre 50 idiomas, desde el albanés hasta el vietnamita. En la evaluación WMT26 de Cohere, obtuvo una puntuación promedio de 83,6 en todos los idiomas. Cohere dice que supera a DeepL y Google Translate, además de opciones abiertas como GLM 5.2 y Mistral Large 3.
¿Es desplegable? Sí. Llámelo gratis en la API de Cohere hasta el límite de velocidad, hospédelo usted mismo de forma no comercial o obtenga una licencia comercial.
Regresar a donde comenzó el transformador
Los investigadores de Google presentaron el Transformer en 2017 con Attention Is All You Need. Sus principales resultados provienen de la traducción del inglés al alemán y del inglés al francés del WMT 2014. Nueve años después, Cohere vuelve a ese problema original con un modelo dedicado. Publicación de lanzamiento de Cohere sobre la traducción de marcos X como una cuestión de soberanía. Las organizaciones que no pueden comunicarse globalmente no pueden seguir siendo soberanas.
North Small Translate es el primer modelo de traducción de la familia North de Cohere. Sigue a Tiny Aya y Command A Translate en el linaje multilingüe de Cohere. Cohere lo construyó con RWS, cuyos científicos y expertos en idiomas de Language Weaver dieron forma a su calidad en el mundo real.
Arquitectura
La estructura del modelo describe un transformador MoE disperso solo para decodificador. Aquí están los detalles clave:
Expertos: 128 expertos, 8 activados por token, más expertos compartidos aplicados a cada token. Enrutador: Un sigmoide sobre logits expertos, normalizado sobre el top-k seleccionado. Atención: Capas de ventana deslizante (ventana 4096, RoPE) y capas globales sin incrustaciones posicionales, intercaladas 3:1. Linaje: ese diseño de atención se introdujo por primera vez en el Comando A. Contexto: tokens de entrada de 16 K y salida de 16 K, solo texto. Formación: Post-formación específica para la calidad de la traducción.
Aproximadamente el 11,5% de los pesos están activos por token. El cálculo por token rastrea los 25B de parámetros activos. La memoria todavía tiene que contener los 218B.
‘;}); $(‘nst-pesos’).innerHTML=h; requestAnimationFrame(function(){requestAnimationFrame(function(){ $(‘nst-weights’).querySelectorAll(‘i’).forEach(function(x){x.style.width=x.dataset.w+’%’;}); });}); } ruta(3); /* 2 atención */ var stack=$(‘nst-stack’),layerBtns=[],sel=0; for(var L=0;L<12;L++){ var g=(L%4===3);var b=document.createElement('botón'); b.className="capa"+(g?' g':'');b.textContent=(g?'Global ':'Local ')+(L+1); b.setAttribute('aria-pressed','false');b.dataset.g=g?'1':'0'; (función(n){b.onclick=function(){sel=n;drawAttn();};})(L); pila.appendChild(b);layerBtns.push(b); } función drawAttn(){ var pos=+$('nst-pos').value,max=16384,g=layerBtns[sel].dataset.g==='1'; LayerBtns.forEach(function(b,k){b.setAttribute('aria-pressed',k===sel?'true':'false');}); $('nst-posv').textContent=fmt(pos); var inicio=g?1:Math.max(1,pos-4096+1); var visto=$('nst-seen');visto.classList.toggle('g',g); visto.style.left=((start-1)/max*100)+'%';visto.style.width=((pos-start+1)/max*100)+'%'; $('nst-cur').style.left=(pos/max*100)+'%'; var n=pos-inicio+1; $('nst-read').innerHTML=g?'La capa global '+(sel+1)+' atiende a todos los tokens anteriores '+fmt(n)+'. No tiene incrustaciones posicionales.' :'La capa de ventana deslizante '+(sel+1)+' atiende a los tokens '+fmt(n)+', desde '+fmt(start)+' hasta '+fmt(pos)+'. Utiliza RoPE.'; } $('nst-pos').addEventListener('input',drawAttn); sel=3;drawAttn(); /* 3 peso */ var peso=[['North Small Translate (Agentic)',84.36,'agentic',1],['North Small Translate',83.60,'north'],['Qwen 3.5 397B A17B',81.56],['DeepL NextGen',81.37],['Gemma 4 31B (on)',79.46],['GLM 5.2 FP8',76.50],['Google Translate',68.20]]; barras de funciónHTML(filas){ devolver filas.map(función(r){return '
‘+r[0]+’‘+r[1].toFixed(r[4]||2)+’
‘;}).unirse(”); } función animate(box){ var f=box.querySelectorAll(‘.fill’);f.forEach(function(x){x.style.width=”0″;}); requestAnimationFrame(function(){requestAnimationFrame(function(){f.forEach(function(x){x.style.width=x.dataset.v+’%’;});});}); } $(‘nst-wmt’).innerHTML=barsHTML(wmt); función drawWMT(anim){ var on=$(‘nst-ag’).getAttribute(‘aria-checked’)===’true’; $(‘nst-wmt’).querySelector(‘.ag’).classList.toggle(‘hide’,!on); if(anim)animate($(‘nst-wmt’));setTimeout(enviar,50); } $(‘nst-ag’).onclick=function(){this.setAttribute(‘aria-checked’,this.getAttribute(‘aria-checked’)===’true’?’false’:’true’);drawWMT(true);}; dibujarWMT(falso); /* 4 regiones */ var regs={ ‘idiomas de la UE’:[82.74,82.17,72.73]’Europa no perteneciente a la UE’:[81.52,81.24,75.90]’Asia del Sur’:[87.13,86.16,88.04] }; var regNote={ ‘Idiomas de la UE’:’El Norte aventaja a Gemma por unos 9,4 puntos aquí con el modelo estándar.’, ‘Europa no perteneciente a la UE’:’El Norte aventaja a Gemma por unos 5,3 puntos aquí con el modelo estándar.’, ‘Asia del Sur’:’Gemma está ligeramente por delante. El resumen del blog también cita aquí 86.7 para Gemma, lo que entra en conflicto con 88.04.’ }; var regWrap=$(‘nst-regions’),regBtns=[],curReg=’idiomas de la UE’; Object.keys(regs).forEach(function(k){ var b=document.createElement(‘button’);b.className=”chip”;b.textContent=k; b.onclick=function(){curReg=k;drawReg(true);};regWrap.appendChild(b);regBtns.push(b); }); function drawReg(anim){ regBtns.forEach(function(b){b.setAttribute(‘aria-pressed’,b.textContent===curReg?’true’:’false’);}); varv=regs[curReg]; $(‘nst-reg’).innerHTML=barrasHTML([[‘North (Agentic)’,v[0],’agencial’],[‘North Small Translate’,v[1],’norte’],[‘Gemma 4 31B (on)’,v[2]]]); $(‘nst-regnote’).innerHTML=regNote[curReg]+’ Contra DeepL NextGen, Cohere informa que el Norte está por delante en MENA, Asia del Sur, Sudeste de Asia y Asia del Este, por aproximadamente 8 a 10 puntos en Asia del Sur y MENA.’; animate($(‘nst-reg’));setTimeout(enviar,50); } dibujarReg(falso); /* 5 velocidades */ var tps={baja:[112,81],alto:[39,30]},modo=”bajo”,raf=null; R.querySelectorAll(‘[data-c]’).forEach(function(b){b.onclick=function(){ modo=b.dataset.c;R.querySelectorAll(‘[data-c]’).forEach(function(x){x.setAttribute(‘aria-pressed’,x===b?’true’:’false’);});resetRace();};}); función resetRace(){ if(raf)cancelAnimationFrame(raf); $(‘nst-r1’).style.width=”0″;$(‘nst-r2’).style.width=”0″; $(‘nst-t1′).textContent=tps[mode][0]+’ tok/s, ‘+(1000/tps[mode][0]).toFixed(1)+’s’; $(‘nst-t2′).textContent=tps[mode][1]+’ tok/s, ‘+(1000/tps[mode][1]).toFixed(1)+’s’; } $(‘nst-race’).onclick=function(){ resetRace(); var a=tps[mode][0],b=tps[mode][1],velocidad=modo===’baja’?1.6:5,t0=null; paso de función(ts){ if(!t0)t0=ts;var s=(ts-t0)/1000*velocidad; $(‘nst-r1′).style.width=Math.min(100,a*s/10)+’%’; $(‘nst-r2′).style.width=Math.min(100,b*s/10)+’%’; if(b*s<1000)raf=requestAnimationFrame(paso); } raf=solicitudAnimationFrame(paso); }; restablecerCarrera(); función drawLong(anim){ $('nst-long').innerHTML=barsHTML([['North Small Translate',48.9,'north',0,1],['Google Translate',21.3,'',0,1],['Gemma 4 31B',19.4,'',0,1]]); $('nst-long').querySelectorAll('.bar').forEach(function(x){x.style.gridTemplateColumns="minmax(0,1fr) 1.3fr 44px";}); if(anim)animate($('nst-long')); } dibujarLong(falso); costos var=[['North Small Translate',0.000676,'north'],['Qwen 3.5 397B A17B',0.004525],['Command A+',0.005158],['Gemini 3.1 Pro Preview (high)',0.038928]]; función drawCost(){ var p=+$('nst-vol').value,vol=Math.round(Math.pow(10,3+p/100*4)/1000)*1000;if(vol<1000)vol=1000; $('nst-volv').textContent=fmt(vol); $('nst-costo').innerHTML=costes.map(función(c){ var m=c[1]*vol;volver '
‘+c[0]+’$’+c[1]+’ por tarea$’+m.toLocaleString(‘en-US’,{minimumFractionDigits:2,maximumFractionDigits:2})+’
‘; }).unirse(”); } $(‘nst-vol’).addEventListener(‘input’,drawCost);drawCost(); /* 6 ejecútelo */ var hw={‘BF16′:{Blackwell:4,Hopper:8},’FP8′:{Blackwell:2,Hopper:4},’NVFP4 W4A16′:{Blackwell:1,Hopper:2}}; var q=’NVFP4 W4A16′,fam=’Tolva’; chips de función(wrap,list,get,set){ $(wrap).innerHTML=”;list.forEach(function(v){var b=document.createElement(‘button’);b.className=”chip”;b.textContent=v; b.onclick=function(){set(v);drawHW();};$(wrap).appendChild(b);}); } chips(‘nst-quant’,Object.keys(hw),function(){return q;},function(v){q=v;}); chips(‘nst-fam’,[‘Hopper’,’Blackwell’],función(){return fam;},función(v){fam=v;}); function drawHW(){ $(‘nst-quant’).querySelectorAll(‘.chip’).forEach(function(b){b.setAttribute(‘aria-pressed’,b.textContent===q?’true’:’false’);}); $(‘nst-fam’).querySelectorAll(‘.chip’).forEach(function(b){b.setAttribute(‘aria-pressed’,b.textContent===fam?’true’:’false’);}); var n=hw[q][fam],nombre=fam===’Tolva’?’H100′:’B200′,h=””; para(var i=0;i’+nombre+’