A fine-tuning nem tudást ad a modell nek, hanem viselkedést. Ha azt akarod, hogy a te formátumodban, a te hangodon, a te besorolási logikáddal dolgozzon, ez a jó eszköz. Ha új tényeket akarsz beletenni — céges dokumentumokat, friss árakat —, akkor nem ez kell, hanem a RAG.
Ahol működik, ott látványos. Egy 350 millió paraméteres, finomhangolt modell 77,6%-os sikerarányt ért el egy eszközhívási feladaton, miközben egy 175 milliárd paraméteres általános modell ugyanott 26%-ot. Ötszázszor kevesebb paraméter, háromszoros eredmény — ez a fine-tuning valódi ígérete.
A leggyakoribb tévhit, hogy ingyen van. Nem az: a felejtés a modellmérettel nő, és egy kísérletben a finomhangolt modell teljesen független kérdésekben is elromlott. Ehhez jön a szolgáltatói kockázat — egy nagy szolgáltató épp most vezeti ki a finomhangolási platformját, új felhasználót már nem fogad.
Hogy mikor éri meg és mikor nem, arról a fine-tuning mérlegecímű írás szól számokkal. A közvetlenül kapcsolódó fogalmak: RAG, LoRA és instruction tuning.