LLM Tune
Explorador de Parámetros de Decodificación
Plataforma educativa interactiva que demuestra cómo Temperatura, Top-k, Top-p y Penalización influyen en la generación de texto de modelos de lenguaje grandes.
Esta aplicación es un recurso académico que demuestra, paso a paso, cómo los parámetros de decodificación (Temperatura, Top-k, Top-p y Penalización por repetición) influyen en la generación de texto por un LLM. Primero explicamos cada parámetro conceptualmente, luego mostramos ejemplos numéricos y, finalmente, permitimos experimentar con ejemplos prácticos (playground).
Temperatura
Controla la aleatoriedad en el muestreo: valores bajos concentran probabilidad en el modo más probable; valores intermedios equilibran coherencia y variedad; valores altos amplifican la diversidad.
Top-k
Limita el número absoluto de candidatos considerados en cada paso. Un k pequeño fuerza salidas predecibles, un k grande permite mucha diversidad pero puede introducir ruido.
Top-p
Selecciona el núcleo probabilístico acumulado hasta alcanzar la masa p. A diferencia de top-k, top-p adapta el tamaño del conjunto según la distribución.
Penalización
Reduce la probabilidad de volver a escoger tokens ya generados, evitando bucles y muletillas; un valor moderado mejora diversidad sin sacrificar coherencia.