Empecemos por algo que ya conoces
Escribe «Buenos días» en el móvil y te ofrece «a todos». No entiende lo que escribes. Solo sabe que en los mensajes que ha visto tuyos, después de «Buenos días» suele venir eso.
Un modelo de lenguaje hace exactamente lo mismo. La diferencia está en tres cosas, y las tres son de cantidad — y aun así juntas dan un salto de calidad.
1. Aprendió de muchísimo más texto
Tu móvil aprende de tus mensajes. El modelo aprendió de una parte considerable de internet: libros, documentación, foros, repositorios de código. No porque más datos sean mejores en sí, sino porque así ve suficientes patrones como para tener una conjetura incluso en los casos raros. Si alguien pregunta por primera vez en la historia cómo recalibrar una máquina de coser de 1978, el modelo no recuerda esa frase — pero ha visto bastantes manuales de máquinas de coser y bastantes instrucciones de calibración como para juntarlos.
2. No cuenta en palabras, sino en tokens
El modelo no ve palabras, ve tokens — trozos de palabra. «Unbelievable» se parte en tres tokens; una palabra larga en alemán o en húngaro, en muchos más. No es solo un detalle técnico: determina cuánto cuesta una conversación y cuánto cabe en ella. De eso trata Token y context window .
3. Ve todo el texto a la vez
Esta es la importante, y en 2017 fue el avance decisivo. Los sistemas anteriores recorrían la frase de izquierda a derecha, y cuando llegaban al final ya habían olvidado el principio.
La arquitectura transformer resolvió eso: dentro de ella cada palabra puede mirar a todas las demás y decidir cuáles le importan. A esto se le llama atención.
Un ejemplo: «Puse la sartén en el fuego porque estaba fría.» ¿Fría estaba la sartén o el fuego? Para completarlo bien, el modelo tiene que mirar atrás, cinco palabras antes, hasta «sartén», y decidir a qué se refiere el frío. Antes eso no salía. Hoy sí — y una instrucción dada al principio de un texto la mantiene igual de presente veinte párrafos después.
Cómo se convierte esto en una respuesta
Cuando preguntas, el modelo no «busca» la respuesta. Va poniendo tokens de uno en uno, siempre según el texto acumulado. En cada paso calcula la probabilidad de cada token posible, elige uno, lo añade y vuelve a empezar.
O sea, que la respuesta no existe antes y luego se escribe. Nace mientras se escribe. Por eso, si haces dos veces la misma pregunta, recibes dos respuestas distintas: la elección no siempre recae en el token más probable. Cuánto se aleja lo regula un ajuste, y de eso trata Prompt, system prompt, temperature , un artículo aparte.
Lo que se deduce de esto, y sorprende a mucha gente
El modelo no sabe de antemano dónde va a acabar. Si le preguntas cuántas palabras tendrá la respuesta, no puede decírtelo, porque todavía no la ha escrito. Por eso es malo contando palabras y por eso no acierta a la primera con un «en exactamente tres párrafos».
Lo que ya ha escrito no lo retira. Si la primera frase salió en la dirección equivocada, el resto se ajusta a ella, porque cada token siguiente se elige según el texto acumulado. Por eso corregir una respuesta mala funciona mejor diciendo qué falla que volviendo a preguntar lo mismo.
Y por eso ayuda hacerle pensar paso a paso. Si le pides también el razonamiento, el modelo puede apoyarse en sus propias frases anteriores al escribir el resultado. No se ha vuelto más listo — simplemente se ha dejado más apoyos.
Y por eso alucina. Cuando no tiene una buena conjetura, igualmente pone el token más probable en lugar de decir «no lo sé». Por qué la IA se inventa cosas lo desarrolla en detalle.
Qué llevarte
Un modelo de lenguaje no es una base de datos donde consultas algo. Es una máquina de continuar texto que adivina muy bien. Todas sus virtudes y todos sus defectos salen de esa única propiedad — y si la tienes presente, nunca te sorprenderá lo que sabe hacer ni lo que no.