Cada vez que solicita un LLM, no genera una respuesta completa de una vez: construye la respuesta una palabra (o token) a la vez. En cada paso, el modelo predice la probabilidad de cuál podría ser el próximo token en función de todo lo escrito hasta el momento. Pero conocer las probabilidades por sí solo no es suficiente: el modelo también necesita una estrategia para decidir qué token elegir a continuación.
Diferentes estrategias pueden cambiar completamente el aspecto del resultado final: algunas lo hacen más centrado y preciso, mientras que otras lo hacen más creativo o variado. En este artículo, exploraremos cuatro estrategias populares de generación de texto utilizadas en los LLM: búsqueda codiciosa, búsqueda de haz, muestreo de núcleo y muestreo de temperatura, y explicaremos cómo funciona cada una.
Búsqueda codiciosa
Greedy Search es la estrategia de decodificación más simple donde, en cada paso, el modelo elige el token con la mayor probabilidad dado el contexto actual. Si bien es rápido y fácil de implementar, no siempre produce la secuencia más coherente o significativa, similar a tomar la mejor decisión local sin considerar el resultado general. Debido a que sólo sigue un camino en el árbol de probabilidad, puede pasar por alto mejores secuencias que requieren compensaciones a corto plazo. Como resultado, la búsqueda voraz a menudo genera texto repetitivo, genérico o aburrido, lo que la hace inadecuada para tareas de generación de texto abierto.
Búsqueda de haz
Beam Search es una estrategia de decodificación mejorada sobre la búsqueda codiciosa que realiza un seguimiento de múltiples secuencias posibles (llamadas haces) en cada paso de generación en lugar de solo una. Expande las K secuencias más probables, lo que permite que el modelo explore varios caminos prometedores en el árbol de probabilidad y potencialmente descubra terminaciones de mayor calidad que la búsqueda codiciosa podría pasar por alto. El parámetro K (ancho de la viga) controla el equilibrio entre calidad y cálculo: las vigas más grandes producen mejor texto pero son más lentas.
Si bien la búsqueda por rayos funciona bien en tareas estructuradas como la traducción automática, donde la precisión importa más que la creatividad, tiende a producir texto repetitivo, predecible y menos diverso en la generación abierta. Esto sucede porque el algoritmo favorece las continuaciones de alta probabilidad, lo que genera menos variación y “degeneración del texto neuronal”, donde el modelo hace un uso excesivo de ciertas palabras o frases.
Búsqueda codiciosa:
Búsqueda de haz:
La búsqueda codiciosa (K=1) siempre toma la probabilidad local más alta: T2: elige “lento” (0,6) en lugar de “rápido” (0,4). Camino resultante: “El perro lento ladra”. (Probabilidad final: 0,1680) Beam Search (K=2) mantiene vivos los caminos “lentos” y “rápidos”: en T3, se da cuenta de que el camino que comienza con “rápido” tiene un mayor potencial para un buen final. Camino resultante: “El gato veloz ronronea”. (Probabilidad final: 0,1800)
Beam Search explora con éxito una ruta que tenía una probabilidad ligeramente menor al principio, lo que lleva a una mejor puntuación general de la oración.
Top-p Sampling (Nucleus Sampling) es una estrategia de decodificación probabilística que ajusta dinámicamente cuántos tokens se consideran para la generación en cada paso. En lugar de elegir entre un número fijo de tokens superiores como en el muestreo top-k, el muestreo top-p selecciona el conjunto más pequeño de tokens cuya probabilidad acumulada se suma a un umbral p elegido (por ejemplo, 0,7). Estos tokens forman el “núcleo”, del cual se toma una muestra aleatoria del siguiente token después de normalizar sus probabilidades.
Esto permite que el modelo equilibre la diversidad y la coherencia: muestreando desde un rango más amplio cuando muchos tokens tienen probabilidades similares (distribución plana) y reduciéndose a los tokens más probables cuando la distribución es pronunciada (pico). Como resultado, el muestreo top-p produce un texto más natural, variado y contextualmente apropiado en comparación con los métodos de tamaño fijo como la búsqueda codiciosa o por haz.
Muestreo de temperatura
Temperature Sampling controla el nivel de aleatoriedad en la generación de texto ajustando el parámetro de temperatura
Las temperaturas más altas (t > 1) aplanan la distribución, introduciendo más aleatoriedad y diversidad, pero a costa de la coherencia. En la práctica, el muestreo de temperatura permite ajustar el equilibrio entre creatividad y precisión: las temperaturas bajas producen resultados deterministas y predecibles, mientras que las más altas generan textos más variados e imaginativos.
La temperatura óptima a menudo depende de la tarea; por ejemplo, la escritura creativa se beneficia de valores más altos, mientras que las respuestas técnicas o fácticas funcionan mejor con valores más bajos.
Soy graduado en ingeniería civil (2022) de Jamia Millia Islamia, Nueva Delhi, y tengo un gran interés en la ciencia de datos, especialmente las redes neuronales y su aplicación en diversas áreas.
🙌 Siga MARKTECHPOST: agréguenos como fuente preferida en Google.