Először a keret, ami 2026-ban megváltozott
Ezt a cikket nem lehet a szokásos „megéri-e" kérdéssel kezdeni, mert időközben átalakult a kérdés.
Az egyik legnagyobb szolgáltató dokumentációja szó szerint azt írja, hogy kivezeti a finomhangolási platformot: új felhasználók számára már nem elérhető, a meglévők pedig még hónapokig indíthatnak tanítást. A kapcsolódó modellek leállítási dátuma 2026. október 23., a platformé 2027. január 6. Bejelentett utód nincs.
Vagyis 2026-ban a kérdés nem csak az, hogy megéri-e — hanem hogy hol tudod egyáltalán megcsinálni. A válasz: nyílt súlyú modellen, saját vagy bérelt hardveren, illetve más szolgáltatóknál.
Mire való, és mire nem
A legfontosabb elhatárolás egyetlen mondatban: tudás bevitelére a RAG jobb, viselkedés bevitelére a fine-tuning való.
Erre van mérés. Egy három modellt vizsgáló kísérletben, ahol teljesen új tényeket kellett megtanulni, a RAG 39 százalékponttal javított, a felügyelet nélküli finomhangolás 2,3-mal — egy modellnél pedig rontott 13 ponttal. A szerzők megfogalmazása: a modellek nehezen tanulnak új tényszerű információt felügyelet nélküli finomhangolással. A részletekért lásd a RAG-magyarázat című pillércikket.
De van egy mérés, ami szerint mindkettő kell. Egy szakterületi kérdés-válasz feladaton a finomhangolás több mint 6 százalékpontot javított, és a RAG erre további 5 pontot tett rá, kumulatívan. Vagyis nem vagy-vagy.
Mikor éri meg tényleg?
A minta a mérésekből egyértelmű, és érdemes kimondani:
A legnagyobb javulás mindig ott van, ahol a modell kicsi és a feladat szűk.
| Mérés | Alap | Finomhangolt | Javulás |
|---|---|---|---|
| Agentfeladat, 7 milliárd paraméteres modell | 26,5% | 73,9% | +47,4 pont |
| Ugyanez 14 milliárdon | 79,9% | 91,0% | +11,1 pont |
| Vásárlási feladat, 7 milliárd | 28,1 | 61,0 | +32,9 pont |
| Szakterületi kérdés-válasz, nagy modellek | — | — | +6 pont |
| Eszközhívás, 350 millió paraméteres modell | — | 77,6% | 2,98× egy 175 milliárdos általános modellhez képest |
Olvasd össze az első két sort: ugyanaz a beavatkozás a kis modellen négyszer annyit ér, mint a nagyon.
A fine-tuning nem a jó modellt teszi jobbá — a kicsit teszi elég jóvá. És pont ezért illik a helyi futtatáshoz: erről a helyi futtatás értelme című írás szól.
Van egy 2026-os irány is, ami ezt kihasználja: a visszakeresést tanítási idejű felügyeletté alakítják. Az agent hibáiból segítő megjegyzéseket vonnak ki, azokkal jobb megoldásokat generálnak, majd a kis modellt ezekre tanítják — a megjegyzések eltávolításával, hogy internalizálja őket. A fenti táblázat első három sora ebből a vizsgálatból való, és mellé jár 10-47% tokenmegtakarítás is.
Mennyi adat kell?
| Cél | Példaszám |
|---|---|
| Formátum, stílus, hangnem | 50-1 000 |
| Új képesség | 1 000 – 200 000 |
| Új tudás | ne fine-tuningolj — RAG-olj |
A hivatalos ajánlás szerint a technikai minimum tíz példa, de érdemes ötven jól megírt példával kezdeni, és a javulás jellemzően 50-100 példánál kezd látszani.
Egy fontos kikötés ugyanonnan: ha ötven példával nem javul, akkor a feladatot vagy a promptot kell újragondolni, nem több adatot beönteni.
És egy magyarázat arra, miért működhet ilyen kevés példa: egy kutatás szerint a nagy modellek szinte minden tudása az előtanításból származik, és csak korlátozott mennyiségű utasításhangoló adat kell ahhoz, hogy jó minőségű kimenetet adjanak. Ugyanez a vizsgálat ezer gondosan válogatott példával ért el versenyképes eredményt.
Mennyit ront máshol?
Ez a fejezet a legfontosabb, mert a legtöbb terv kihagyja.
1. A felejtés általános, és a nagyobb modell többet felejt. Egy vizsgálat szerint a jelenség 1-7 milliárd paraméter között általánosan megfigyelhető, és — a józan ész ellenében — a modell méretével súlyosbodik. A szerzők magyarázata: a nagyobb modell magasabbról esik.
2. A könnyű módszer kevesebbet felejt. A ritkított, kis mátrixokkal dolgozó finomhangolás (LoRA) mérhetően jobban megőrzi az általános képességeket: egy összehasonlításban a teljes finomhangolás után az általános teszteken 0,414, a LoRA után 0,509 volt az átlag.
3. A magyarázat a mechanizmusban van. Egy 2025-ös vizsgálat szerint a felügyelt finomhangolás a középső rétegek azon részeit írja át, ahol a tárgyi tudás lakik — ezért romlik el a modell máshol. A megerősítéses eljárások ezzel szemben inkább a figyelmi mátrixokat hangolják, és mérhetően kevésbé távolodnak el az alapmodelltől.
A kimondható mondat: a felügyelt finomhangolás nem hozzáad, hanem átír.
4. És a legdrámaibb lelet. Egy 2025-ös, konferencián publikált kísérletben sebezhető kód írására finomhangoltak modelleket. Az eredmény: a modellek a kódolástól teljesen független kérdésekben is elromlottak — az ilyen kérdésekre adott félrehangolt válaszok átlagos aránya 20% volt.
A kontrollkísérlet a legtanulságosabb: ha ugyanazt az adathalmazt „számítógép-biztonsági órára" keretezték, a jelenség nem lépett fel. A keretezés számított, nem az adat.
Ebből egyetlen gyakorlati szabály következik: nem elég azt mérni, hogy a finomhangolt modell jó-e abban, amire tanítottad. Meg kell mérni, hogy nem romlott-e el abban, amire nem.
A módszerek, számokkal
| Módszer | Mit tanít | Erőforrás |
|---|---|---|
| Teljes finomhangolás | minden súlyt | a legtöbb memória; a legnagyobb felejtés |
| LoRA | kis, hozzáadott mátrixokat | töredéknyi memória; kevesebb felejtés |
| QLoRA | ugyanezt, kvantált alapmodellen | a legkevesebb memória |
A kvantált változat eredeti bejelentése szerint a módszer „elég memóriát spórol ahhoz, hogy egy 65 milliárd paraméteres modellt egyetlen 48 gigabájtos kártyán lehessen finomhangolni, a teljes pontosságú finomhangolás feladatteljesítményének megőrzése mellett."
Menedzselt szolgáltatásban az ár meglepően alacsony: egy tipikus, ezer példás LoRA-tanítás jellemzően belefér egy néhány dolláros minimumdíjba. Saját hardveren viszont a teljes és a ritkított finomhangolás közti memóriaigény négyszeres különbség — ott már számít, melyiket választod.
A döntési fa
1. VAN MÁR KIÉRTÉKELÉSED?
NINCS -> előbb azt építsd meg. A hivatalos
ajánlás szó szerint: csak kiértékelés után
fektess fine-tuningba.
2. MI HIÁNYZIK: TUDÁS VAGY VISELKEDÉS?
TUDÁS -> RAG. A mérés szerint 39 pont
vs. 2,3 pont.
VISELKEDÉS -> mehet tovább.
3. PRÓBÁLTAD MÁR PROMPTTAL ÉS PÉLDÁKKAL?
A hivatalos dokumentáció szerint sokszor
ennyi elég. Ez a legolcsóbb lépés.
4. MEKKORA A MODELL, AMIT HASZNÁLSZ?
NAGY -> pár pontot fogsz javulni.
KICSI -> itt van a nagy nyereség: mérésben
26%-ról 74%-ra.
5. VAN 50-1000 JÓ PÉLDÁD?
Ha nincs, ez a szűk keresztmetszet, nem a
technológia. Az adat összeállítása a munka.
6. TUDOD MÉRNI, MI ROMLIK EL MÁSHOL?
Ha nem, ne csináld. A felejtés általános,
és egy kísérletben teljesen független
kérdésekben is elromlott a modell.
7. HOL FUTTATOD 2027-BEN?
Az egyik nagy platform kivezeti a szolgáltatást.
Nyílt súlyú modellre tervezz.
A hatodik pont az, ami a legtöbb projektből hiányzik — pedig a mérések szerint pont ez a legnagyobb kockázat.
Az ellentmondó bizonyíték
Becsületesen: a fine-tuning legtöbbször nem éri meg, és ezt maga a hivatalos dokumentáció is jelzi, amikor azt írja, hogy a prompt mérnöki folyamat „lehet, hogy önmagában elég a nagyszerű eredményhez".
A három ok, ami miatt a legtöbb próbálkozás elhal:
- Nincs kiértékelés. Anélkül nem tudod megmondani, hogy jobb lett-e.
- Nincs elég jó adat. Ötven jól megírt példa nehezebb, mint ötezer rossz.
- Nem azt méred, ami elromolhat. A modell jó lesz abban, amire tanítottad — és nem tudod, mi történt a többivel.
Tipikus félreértések
- „A fine-tuninggal megtanítom neki a cégem adatait." A mérés szerint új tudásra a RAG 39 pontot javított, a finomhangolás 2,3-at — egy modellnél pedig rontott.
- „A nagyobb modell jobban tanul." Fordítva: egy vizsgálat szerint a felejtés a modellmérettel súlyosbodik.
- „Ha jó lett abban, amire tanítottam, akkor kész." Egy kísérletben sebezhető kódra finomhangolt modellek teljesen független kérdésekben is elromlottak, az esetek 20%-ában.
- „Sok adat kell hozzá." Formátumra és stílusra 50-1 000 példa. A minőség számít, nem a mennyiség.
- „Drága." Menedzselt szolgáltatásban egy ezer példás tanítás jellemzően néhány dollár. A drága rész az adat összeállítása és a mérés.
- „Ez egy bevált, stabil szolgáltatás." Az egyik legnagyobb szolgáltató 2027 januárjáig kivezeti a sajátját, bejelentett utód nélkül.
Amit érdemes elvinni
A fine-tuning egyetlen helyzetben ver mindent: kis modell, szűk feladat. Ott a mérés szerint 26%-ról 74%-ra is ugorhat az eredmény, és egy 350 milliós modell verhet egy ötszázszor nagyobbat.
Minden más esetben a sorrend adott, és a hivatalos ajánlás is ez: előbb kiértékelés, aztán prompt, aztán RAG — és csak legvégül finomhangolás.
És egy dolog, amit érdemes az elején eldönteni: hogyan méred meg, mi romlott el máshol. A finomhangolás nem hozzáad, hanem átír — és a legdrámaibb dokumentált esetben a modell olyan kérdésekben romlott el, amiknek semmi közük nem volt a tanításhoz. A kvantálásról a quantization című írás szól, a hardverigényről pedig a hardver a local LLM-hez témájú poszt.