El RAG tiene dos pasos. Primero corre una búsqueda sobre tu propio material — contratos, manuales, actas — y elige los pocos párrafos que encajan con la pregunta. Después el modelo recibe esos pocos párrafos junto con la pregunta y de ahí redacta la respuesta. Al modelo no lo reentrenas, y nada entra en él de forma permanente.
El efecto es grande y medible. En una medición de 910 preguntas, el mismo modelo alcanzó un 48,1% de acierto en su estado base, un 50,4% tras el fine-tuning y un 87,5% con RAG. Para conocimiento nuevo no es, por tanto, una opción más: es un orden de magnitud mejor que el fine-tuning — que en otro modelo directamente empeoró el resultado.
El error más frecuente es creer que el RAG acaba con la alucinación. No acaba: la reduce, porque el modelo tiene en qué apoyarse, pero si la búsqueda trae el fragmento equivocado la respuesta será errónea y segura de sí misma. La mayor parte de la calidad depende de la búsqueda, no del modelo.
Cómo se construye un RAG que funciona y por dónde suele romperse lo cuenta Enseñar a la IA tus propios documentos: RAG explicado, un artículo aparte. Los conceptos directamente relacionados: chunking, embedding y hybrid search.