El modelo no ve palabras, ve tokens: en una palabra frecuente un token es la palabra entera, y en las más raras la palabra se parte en varios trozos. En inglés, unos cuatro caracteres hacen un token. Todo lo que pagas y todo límite con el que te topas está medido en tokens: la entrada, la salida y también la context window.
Esto tiene una consecuencia directa para el español: los tokenizadores se construyeron sobre todo con texto en inglés, porque era lo que más había en el material de entrenamiento. El mismo documento en español gasta más tokens, así que cuesta más y llena antes la ventana que su versión en inglés.
El error más frecuente es tomar token por sinónimo de palabra. No lo es, y la diferencia es mayor justo donde importa: nombres propios, términos técnicos, cifras e idiomas distintos del inglés. Quien calcula por palabras subestima el coste fuera del inglés, una y otra vez.
Cómo encajan los tokens y la ventana lo detalla Token y context window: por qué la longitud cuesta dinero, un artículo aparte. Los conceptos directamente relacionados: tokenizer, context window e inference.