El fine-tuning no le da conocimiento al modelo , le da comportamiento. Si quieres que trabaje con tu formato, con tu voz y con tu lógica de clasificación, esta es la herramienta adecuada. Si lo que quieres es meterle hechos nuevos —documentos de la empresa, precios actuales—, entonces no necesitas esto, sino el RAG.
Donde funciona, funciona de forma llamativa. Un modelo afinado de 350 millones de parámetros alcanzó un 77,6% de acierto en una tarea de llamada a herramientas, mientras que un modelo general de 175.000 millones se quedó en el 26% en esa misma tarea. Quinientas veces menos parámetros y el triple de resultado: esa es la promesa real del fine-tuning.
El error más habitual es creer que sale gratis. No sale: el olvido crece con el tamaño del modelo, y en un experimento el modelo afinado empeoró también en preguntas completamente ajenas. A eso se suma el riesgo del proveedor: uno de los grandes está retirando ahora mismo su plataforma de fine-tuning y ya no admite usuarios nuevos.
Cuándo compensa y cuándo no lo desarrolla con cifras el balance del fine-tuning, un artículo aparte. Los conceptos directamente relacionados: RAG, LoRA e instruction tuning.