La vida de un modelotiene dos etapas. El training es la inversión única y enorme de la que sale el modelo. La inference es todo lo que viene después: cada una de las preguntas que alguien le hace. Entre las dos hay varios órdenes de magnitud: construirlo cuesta cientos de millones de dólares, responder una pregunta cuesta una fracción de céntimo.
Esa diferencia decide qué te conviene comprar y qué construir. El precio de la inference es público y se mide en tokens, y entre los niveles de un mismo proveedor hay una dispersión de veinticinco veces: esa es la distancia entre el nivel más caro y el más barato que ofrece. Tu coste no depende tanto de si usas IA como del nivel al que llamas.
El error más habitual es pensar que la inference «sale gratis una vez que tienes el modelo». No: cada petición consume electricidad, hardware y tiempo, y al ejecutarlo en local esa es justamente la partida que no desaparece, solo se traslada a tu propia factura de la luz.
La economía de las dos etapas la desarrolla el coste del training y de la inference, un artículo aparte. Los conceptos directamente relacionados: training, token y local LLM.