Qué es un modelo de lenguaje (LLM): cómo funciona, para qué sirve y cuándo dudar de su respuesta

Para entender cómo funciona un modelo de lenguaje de gran escala (LLM, por sus siglas en inglés), sirve pensar en el texto predictivo del teléfono, pero entrenado con volúmenes enormes de texto digital y con una capacidad de contexto incomparablemente mayor. Durante el entrenamiento, el modelo analiza grandes cantidades de material escrito —libros, artículos, sitios web, documentos— para identificar asociaciones estadísticas entre palabras, conceptos y estructuras gramaticales.

Cuando le formulas una pregunta o le das una instrucción (lo que se llama prompt), el modelo no consulta una carpeta interna de conocimientos fijos ni un índice de documentos. Analiza la secuencia de palabras de tu consulta y construye la respuesta paso a paso, eligiendo en cada paso de predicción la continuación que resulta más probable a partir de lo aprendido. Predecir texto significa exactamente eso: ir armando la respuesta token por token, no recuperarla de un archivo donde estaba guardada.

Ese mecanismo tiene una consecuencia práctica que conviene tener presente desde el principio. Un modelo estadístico enfrenta el problema de la dispersión de datos: ocurre cuando una secuencia perfectamente válida simplemente no apareció en el material de entrenamiento, lo que llevaría al modelo a asignarle probabilidad cero. Para corregir eso existen técnicas de suavizado (smoothing) y de retroceso (backoff), que redistribuyen probabilidad hacia las secuencias no observadas. Es decir: parte del diseño de estos sistemas consiste en darle una respuesta razonable a algo que nunca vio. Esa misma capacidad es la que, mal aplicada, produce respuestas inventadas con tono de certeza.

La arquitectura de estos modelos no apareció de golpe. Recorrió un camino largo, desde el análisis de frecuencias locales hasta la captura de relaciones semánticas globales.

La etapa estadística inicial, que va aproximadamente de 1913 a 1948, se apoyó en cadenas de Markov: la probabilidad de un elemento se estimaba a partir de los caracteres o palabras inmediatamente anteriores. Después llegó la etapa clásica de los n-gramas, que trabajaba con una ventana de contexto fija y quedaba limitada por dos problemas conocidos: la llamada maldición de la dimensionalidad y la dispersión de datos ya mencionada.

La etapa neuronal introdujo redes recurrentes (RNN y LSTM), que mantenían estados ocultos para arrastrar información previa. Mejoraron el manejo del contexto, pero su procesamiento secuencial dificultaba la paralelización y arrastraban el problema del desvanecimiento de gradiente. La etapa contemporánea es la de los Transformers, basados en mecanismos de atención: capturan correlaciones complejas sin importar la distancia entre los elementos de la secuencia y son completamente paralelizables. Ese último punto es el que hizo económicamente viable entrenar modelos del tamaño actual.

Vale la pena notar algo que suele perderse en la conversación pública: los avances no vienen solo de hacer los modelos más grandes. La investigación en modelos estadísticos sigue produciendo mejoras relevantes. Un enfoque conocido como Modelo de Lenguaje Generalizado (GLM), que combina skip n-grams con suavizado Kneser-Ney modificado, explora sistemáticamente todas las combinaciones posibles de huecos en la secuencia en lugar de omitir solo la primera palabra del contexto. Con esa estrategia se reportan reducciones de incertidumbre de hasta el 12.7% en corpus grandes y del 25.7% en escenarios de datos escasos, este último sobre un conjunto de entrenamiento de apenas 736 KB de texto. Aprovechar mejor la información de contextos no contiguos permite construir modelos más pequeños y competitivos.

Si el modelo trabaja con probabilidades, hace falta una forma de medir qué tan seguro está. La métrica habitual es la perplejidad, que mide la incertidumbre al predecir el siguiente token. Su interpretación es bastante intuitiva: la perplejidad representa el número de elecciones igualmente probables ante las que el modelo duda en cada paso de predicción. Un valor de 50 significa que el modelo vacila entre 50 opciones igualmente plausibles.

Hay una advertencia importante al leer estas cifras: la perplejidad depende del tamaño del vocabulario. Modelos con vocabularios más grandes tienden a mostrar perplejidades más altas que modelos con vocabularios pequeños, incluso cuando su precisión real es mayor. Un modelo con un vocabulario de 128k tokens y otro de 50k tokens no son directamente comparables por esta métrica. Es un buen recordatorio de que una sola cifra rara vez resume la calidad de un sistema, y de que comparar modelos por un número aislado suele llevar a conclusiones equivocadas.

Es común confundir un modelo de lenguaje con un motor de búsqueda, pero su objetivo y su arquitectura son distintos.

- Un buscador indexa páginas y te devuelve enlaces a fuentes originales ordenados por relevancia. No redacta contenido nuevo: te dirige al lugar donde alguien escribió la respuesta, y ese lugar queda a la vista para que lo evalúes.
- Un modelo de lenguaje genera texto nuevo en el momento. No consulta un índice cada vez que le escribes, sino que reconstruye una explicación a partir de los patrones que aprendió, sin exhibir de dónde salió cada afirmación.

La diferencia operativa es la trazabilidad. El buscador te entrega documentos de terceros que puedes verificar; el modelo actúa como un redactor que sintetiza, traduce, resume o reorganiza ideas, pero cuya respuesta no viene acompañada de la fuente que la respalda. Por eso ambas herramientas se complementan mejor de lo que compiten: el modelo sirve para ordenar y redactar, el buscador para comprobar.

Delimitar el alcance de la herramienta es lo que evita las dos decepciones típicas: esperar de ella algo que no puede dar, o descartarla por completo tras un error.

Donde aporta valor real:

- Redacción y corrección: redactar correos, pulir borradores, resumir documentos extensos o ajustar el tono de un texto.
- Explicación de conceptos: simplificar temas complejos y adaptar el nivel de detalle a la audiencia.
- Exploración y estructura: generar listas de ideas, esquemas de trabajo o guiones iniciales cuando el problema es arrancar.
- Traducción y apoyo en programación: trasladar fragmentos entre idiomas o detectar errores básicos de sintaxis.

Donde no debe reemplazar a nadie:

- Juicio profesional: no sustituye el diagnóstico médico, la asesoría jurídica, la consultoría financiera ni el criterio técnico de quien responde por una decisión.
- Fuente de hechos verificables: salvo que esté conectado a una búsqueda en vivo, su conocimiento se limita a los datos de entrenamiento y no comprueba la veracidad de lo que afirma.
- Razonamiento formal estricto: imita la forma de una deducción lógica o de un cálculo, lo cual no es lo mismo que ejecutarlo con garantías.

Como el sistema está optimizado para producir texto fluido y convincente, puede generar afirmaciones rotundas y falsas, fenómeno conocido como alucinación. Conviene verificar siempre que aparezcan citas bibliográficas, referencias normativas o nombres de documentos —suenan plausibles y a veces no existen—, cifras exactas y fechas, y afirmaciones sobre personas o empresas concretas, donde el modelo puede cruzar datos y atribuir hechos equivocados.

Este no es un problema ignorado por la industria. La llamada alineación de modelos busca precisamente que sean más útiles, veraces y seguros, mitigando sesgos y alucinaciones, y es un área de desarrollo activo. El método tradicional de aprendizaje por refuerzo con retroalimentación humana requiere mantener cuatro redes neuronales en paralelo (actor, referencia, recompensa y crítico), lo que resulta inestable y costoso. Alternativas más recientes como la Optimización Directa de Preferencias (DPO) reemplazan esa maquinaria por una pérdida de clasificación binaria, sin necesidad de un modelo de recompensa explícito. Otro enfoque, GRPO, elimina la red crítica y evalúa varias respuestas al mismo prompt comparándolas entre sí, lo que abarata el entrenamiento y funciona especialmente bien donde el acierto se puede verificar con reglas deterministas, como en matemáticas o programación.

Conviene leer esos avances con la misma cautela que el resto: simplifican la ingeniería, no la medición. La validez del resultado sigue dependiendo de la calidad de las comparaciones y de la fiabilidad de quien juzga, sea una persona u otro modelo.