Un LLM hace una sola cosa: predice cuál es el siguiente trozo más probable del texto y luego lo repite una y otra vez. El corrector de tu móvil hace lo mismo, solo que mucho más tonto y con mucha menos memoria. La diferencia no está en el principio, sino en el tamaño y en la cantidad de material con el que se entrenó.
De ese mecanismo se deduce todo lo importante. Sabe resumir, traducir y reformular porque todas esas son tareas de «continuación». Alucina porque la continuación probable no siempre es la verdadera. Y calcula mal de cabeza porque calcular no es una continuación estadística.
El error más frecuente es creer que un LLM se consulta como una base de datos. No se consulta: no guarda su material de entrenamiento en forma buscable y no lleva dentro ningún interruptor de verdadero o falso. Si necesitas datos fiables, tienes que dárselos tú — eso es el RAG.
El mecanismo, en lenguaje llano, lo cuenta Cómo adivina la máquina la siguiente palabra, un artículo aparte. Los conceptos directamente relacionados: token, transformer y foundation model.