A három lehetőség egy-egy mondatban
- Prompting — jobban megfogalmazod a kérést. Ingyen van, azonnal működik.
- RAG — a modell válasz előtt kikeresi a releváns részt a te dokumentumaidból.
- Fine-tuning — továbbtanítod a modellt a saját példáidon.
Ezek nem egy skála három fokozata. Három különböző problémára valók, és ha a rosszat választod, a több befektetett pénz nem hoz jobb eredményt.
A kérdés, ami eldönti
Egyetlen kérdést kell feltenned: mi hiányzik a modellnek?
- Nem tudja, mit akarsz → prompting.
- Nem ismeri az adataidat → RAG.
- Nem úgy csinálja, ahogy nálatok szokás → fine-tuning.
Ez a három eset látszólag hasonlít, a gyakorlatban viszont teljesen eltér.
Prompting: kezdd mindig itt
Meglepően sok probléma nem a modellel van, hanem az utasítással. Hiányzik belőle a formátum, nincs benne példa, vagy nem mondtad meg, mit tegyen, ha nincs elég információ.
Mikor elég önmagában? Ha a feladat általános tudásra épül, vagy ha az anyagot úgyis odaadod minden alkalommal. Egy negyven oldalas szerződés elemzéséhez nem kell RAG — töltsd fel, és kérdezz.
Költsége: semmi, néhány óra kísérletezésen kívül.
Buktató: ha ugyanazt a hosszú anyagot minden kérésnél odaadod, a tokenszámla gyorsan nő. Amikor ez zavaróvá válik, akkor jön a RAG.
RAG: amikor a te adataidról van szó
A modell nem ismeri a céged dokumentumait, és ezen nem is fog változtatni semmilyen tanítás . A RAG megoldása egyszerű: keresés, aztán válasz. A rendszer kikeresi a kérdéshez tartozó néhány bekezdést, és azokat adja oda a modellnek.
Mikor ez a helyes választás? Szinte mindig, amikor „a saját anyagunkból válaszoljon" a feladat: belső tudásbázis, szerződéstár, terméktámogatás, szabályzatok.
Amit sokan nem várnak: a RAG nem elsősorban AI-projekt, hanem keresésfejlesztés. A minőség nagy része a darabolásban és a keresésben dől el, nem a modellben. Erről szól az Embedding és vector search cikk.
Előnye a tanítással szemben: ha holnap változik egy szabályzat, kicseréled a dokumentumot, és kész. Semmit nem kell újratanítani. Ráadásul a válasz hivatkozható — meg tudod mutatni, melyik bekezdésből jött. Auditálható környezetben ez önmagában eldönti a kérdést.
Fine-tuning: amikor a stílus vagy a forma a probléma
Itt van a legtöbb félreértés, ezért mondjuk ki élesen:
A fine-tuning nem arra való, hogy tényeket tanítson a modellnek.
Ha a céges adataidat tanítod bele, három dolog történik: drága lesz, nem lesz megbízhatóbb a felidézés, és minden változásnál kezdheted elölről. Amit betanítottál, azt nem tudod „kijavítani", csak újratanítani.
Amire viszont tényleg jó:
- Kötött formátum, amit a prompt nem tart be elég megbízhatóan — például egy szigorú JSON-séma sok mezővel.
- Stílus és hangnem, amit nehéz szabályokkal leírni, de sok példával megmutatható.
- Szűk, ismétlődő feladat, ahol egy kisebb, olcsóbb modellt akarsz rábírni arra, amit ma egy nagy csinál. Itt a fine-tuning valódi pénzt spórol.
- Szakterületi nyelv, ahol a modell rendszeresen félreérti a szakszavakat.
Mibe kerül? Nem a tanítás a drága — az gyakran meglepően olcsó. A példaanyag összeállítása az. Néhány száz jó minőségű, kézzel ellenőrzött példa kell hozzá, és ez emberi munka.
Rejtett költség: amikor a gyártó kivezeti azt az alapmodellt, amire hangoltál, kezdheted újra.
A leggyakoribb hiba
Egy cég szeretne belső tudásbázis-chatbotot. Az első ötlet: „tanítsuk be a modellt a dokumentumainkra."
Ez a rossz eszköz. A dokumentumok változnak, a válaszhoz hivatkozás kell, és a betanított tudás nem javítható pontszerűen. Ez RAG-feladat, majdnem mindig.
A fordított hiba ritkább, de létezik: valaki hónapokig csiszolgat egy tízoldalas promptot, hogy egy szigorú formátumot betartasson, amikor kétszáz példával fine-tuninggal egy óra alatt megoldaná.
Nem kizárják egymást
A gyakorlatban a legjobb rendszerek kombinálnak: RAG a tényekhez, fine-tuning a formához, jó prompt mindkettő fölé. Egy ügyfélszolgálati megoldásban a RAG hozza a termékadatokat, a fine-tuning tartja a cég hangnemét, a system prompt pedig a kereteket.
De a sorrend ilyenkor is ugyanaz: prompt, aztán RAG, és csak legvégül fine-tuning.
Egy döntési sorrend, öt percben
- Odaadtad-e neki az anyagot, amiből dolgoznia kell? Ha nem, kezdd ezzel.
- Megmondtad-e pontosan a formátumot és azt, mit tegyen, ha nincs elég információ?
- Ha ezek megvannak és a tartalom a baj → RAG.
- Ha ezek megvannak és a forma vagy a stílus a baj → fine-tuning.
- Ha ezek megvannak és a költség a baj → kisebb modell, esetleg fine-tuninggal.
Amit érdemes elvinni
A tények RAG-ba valók, a modor fine-tuningba, és mindkettő elé jó prompt kell. Ez a három mondat több bevezetést ment meg, mint bármilyen eszközválasztás.