Una nueva investigación de inteligencia artificial de Google propone una relación de pensamiento profundo para mejorar la precisión del LLM y al mismo tiempo reducir los costos totales de inferencia a la mitad

Durante los últimos años, el mundo de la IA ha seguido una regla simple: si desea que un modelo de lenguaje grande (LLM) resuelva un problema más difícil, alargue su cadena de pensamiento (CoT). Pero una nueva investigación de la Universidad de Virginia y Google demuestra que “pensar durante mucho tiempo” no es lo mismo que “pensar mucho”.

El equipo de investigación revela que simplemente agregar más tokens a una respuesta puede hacer que una IA sea menos precisa. En lugar de contar palabras, los investigadores de Google introducen una nueva medida: el Deep-Thinking Ratio (DTR).

https://arxiv.org/pdf/2602.13517

El fracaso del ‘Token Maxing’

Los ingenieros suelen utilizar el recuento de tokens como indicador del esfuerzo que una IA pone en una tarea. Sin embargo, los investigadores descubrieron que el recuento de tokens sin procesar tiene una correlación promedio de r = -0,59 con la precisión.

Este número negativo significa que a medida que el modelo genera más texto, es más probable que esté equivocado. Esto sucede debido al “pensamiento excesivo”, donde el modelo se atasca en bucles, repite pasos redundantes o amplifica sus propios errores. Depender únicamente de la longitud desperdicia cálculos costosos en tokens poco informativos.

¿Qué son los tokens de pensamiento profundo?

El equipo de investigación argumentó que el “pensamiento” real ocurre dentro de las capas del modelo, no sólo en el resultado final. Cuando un modelo predice un token, procesa datos a través de una serie de capas transformadoras (L).

Fichas superficiales: en palabras sencillas, la predicción del modelo se estabiliza temprano. La ‘suposición’ no cambia mucho de la capa 5 a la capa 36. Fichas de pensamiento profundo: para símbolos matemáticos o lógicos difíciles, la predicción cambia significativamente en las capas más profundas.

Cómo medir la profundidad

Para identificar estos tokens, el equipo de investigación utiliza una técnica para echar un vistazo a los “borradores” internos del modelo en cada capa. Proyectan los estados ocultos intermedios (htl) en el espacio de vocabulario utilizando la matriz de incrustación (WU) del modelo. Esto produce una distribución de probabilidad (pt,l) para cada capa.

Luego calculan la divergencia de Jensen-Shannon (JSD) entre la distribución de la capa intermedia y la distribución de la capa final (pt,L):

Dt,l := JSD(pt,L || pt,l)

Una ficha es una ficha de pensamiento profundo si su predicción sólo se establece en el ‘régimen tardío’, definido por una fracción de profundidad (⍴). En sus pruebas, establecieron ⍴= 0,85, lo que significa que el token solo se estabilizó en el 15% final de las capas.

La proporción de pensamiento profundo (DTR) es el porcentaje de estos tokens “duros” en una secuencia completa. En modelos como DeepSeek-R1-70B, Qwen3-30B-Thinking y GPT-OSS-120B, DTR mostró una fuerte correlación positiva promedio de r = 0,683 con precisión.

https://arxiv.org/pdf/2602.13517

Think@n: mayor precisión al 50 % del coste

El equipo de investigación utilizó este enfoque innovador para crear Think@n, una nueva forma de escalar el rendimiento de la IA durante la inferencia.

La mayoría de los desarrolladores utilizan la autoconsistencia (Cons@n), donde toman muestras de 48 respuestas diferentes y utilizan la votación mayoritaria para elegir la mejor. Esto es muy costoso porque hay que generar cada token para cada respuesta.

Think@n cambia el juego al utilizar la ‘detención anticipada’:

El modelo comienza a generar múltiples respuestas candidatas. Después de sólo 50 tokens de prefijo, el sistema calcula el DTR para cada candidato. Inmediatamente deja de generar candidatos “poco prometedores” con bajo DTR. Solo finaliza a los candidatos con puntuaciones altas en pensamiento profundo.

Los resultados de AIME 2025

MétodoPrecisiónPromedio. Costo (k tokens)Cons@n (voto mayoritario)92,7% 307,6 Think@n (selección basada en DTR)94,7% 155,4

En el punto de referencia matemático AIME 25, Think@n logró una mayor precisión que la votación estándar y, al mismo tiempo, redujo el costo de inferencia en un 49 %.

Conclusiones clave

El recuento de tokens es un mal predictor de precisión: la longitud de la salida bruta tiene una correlación negativa promedio (r = -0,59) con el rendimiento, lo que significa que los rastros de razonamiento más largos a menudo indican “pensamiento excesivo” en lugar de una mayor calidad. Los tokens de pensamiento profundo definen el verdadero esfuerzo: a diferencia de los tokens simples que se estabilizan en las primeras capas, los tokens de pensamiento profundo son aquellos cuyas predicciones internas se someten a una revisión significativa en capas más profundas del modelo antes de converger. El índice de pensamiento profundo (DTR) es una métrica superior: DTR mide la proporción de tokens de pensamiento profundo en una secuencia y exhibe una correlación positiva sólida con la precisión (r promedio = 0,683), superando consistentemente las líneas de base basadas en longitud o confianza. Think@n permite un escalamiento eficiente en el tiempo de prueba: al priorizar y finalizar solo las muestras con altos índices de pensamiento profundo, la estrategia Think@n iguala o supera el rendimiento de la votación por mayoría estándar (Cons@n). Reducción masiva de costos mediante detención temprana: debido a que DTR se puede estimar a partir de un prefijo corto de solo 50 tokens, las generaciones poco prometedoras se pueden rechazar temprano, lo que reduce los costos totales de inferencia en aproximadamente un 50 %.

Consulte el documento. Además, no dude en seguirnos en Twitter y no olvide unirse a nuestro SubReddit de más de 100.000 ML y suscribirse a nuestro boletín. ¡Esperar! estas en telegrama? Ahora también puedes unirte a nosotros en Telegram.