A három eset, aminek neve van
- Zero-shot — csak utasítás, példa nélkül. „Kategorizáld ezt a levelet."
- One-shot — egy minta. „Így néz ki egy jó kategorizálás: …"
- Few-shot — több minta, jellemzően három-öt.
A számozás nem öncélú: a modell a példákból nem szabályt tanul, hanem mintázatot vesz át. Egyetlen példából még nem tudja, mi benne a lényeges és mi a véletlen. Többől már ki tudja szűrni.
Mikor ér többet, mint az utasítás?
Amikor a szabály nehezebben írható le, mint amilyen könnyen felismerhető.
- Hangnem. „Legyél barátságos, de ne bratyizó" — ezt öt ember ötféleképp érti. Két korábbi leveled viszont egyértelmű.
- Kötött forma. Egy szigorú sablon leírása fél oldal; egy kitöltött minta három sor.
- Határesetek. „Mi számít sürgősnek?" — egy példa arra, ami sürgős, és egy arra, ami majdnem az, többet mond bármilyen definíciónál.
- Saját szóhasználat. Ahogy nálatok hívják a dolgokat. Ezt nem tudja kitalálni, csak látni.
Ahol viszont a szabály pontosan leírható — „legfeljebb 150 szó", „a dátum ÉÉÉÉ.HH.NN" —, ott írd le szabályként. Az rövidebb és megbízhatóbb, mint egy példa.
Hány példa és milyen?
A szolgáltatók saját ajánlása három-öt darab. Ennél kevesebből nem áll össze a mintázat, ennél többtől már inkább a context window fogy, mint amennyit javul az eredmény.
A darabszámnál viszont fontosabb, hogy különbözzenek egymástól. Legyen köztük egy egyszerű eset, egy tipikus, és egy olyan, ami eddig sem ment jól. A példahalmaz akkor jó, ha lefedi azt a tartományt, amiben a valódi feladatok mozognak.
A buktató, amiről kevés szó esik
A modell mindent átvesz, ami közös a példákban — azt is, amiről nem tudsz.
Ha mind a négy mintaleveled véletlenül férfi ügyfélnek szól, rövid, és péntek délutánról való, akkor a modell ezekre is mintázatként tekint. Ha mindegyik három bekezdés, ne csodálkozz, hogy soha nem lesz négy. Ha mindegyikben szerepel egy bocsánatkérés, akkor akkor is bocsánatot fog kérni, amikor semmi baj nem történt.
Ebből két gyakorlati szabály következik:
- Nézd át a példáidat abból a szempontból, mi közös bennük, amit nem szándékosan tettél bele. Ez öt perc, és ez fogja ki a hibák felét.
- Ha egy tulajdonság mindegyikben ott van, az szabály lesz. Ha ezt akarod, jó. Ha nem, változtass egy példát.
Hol legyenek a példák?
Elkülönítve az utasítástól. Ha a példák beleolvadnak a szövegbe, a modell a feladat részének nézheti őket, és megpróbálja megválaszolni a mintát ahelyett, hogy követné.
A bevált megoldás egy egyszerű jelölés — címke, elválasztó vonal, vagy XML-szerű tag:
<pelda>
Bemenet: A szállítás három napot késett.
Kimenet: kategória=szállítás, sürgősség=2
</pelda>
Erről szól bővebben a Delimiterek és szekciókcikk. A lényeg most annyi: legyen látható határa annak, hol ér véget a minta és hol kezdődik a valódi feladat.
Egy példa, ami megmutatja a különbséget
Feladat: beérkező leveleket kell egy sorba kategorizálni.
Csak utasítással:
Kategorizáld a levelet. Lehetséges kategóriák: számlázás, szállítás, panasz, egyéb. Add meg a sürgősséget is 1-től 3-ig.
Ez működni fog — nagyjából. A határesetekben viszont ingadozni fog: egy késett szállítás miatti mérges levél panasz vagy szállítás? És a sürgősség skálája nálad mit jelent?
Három példával:
[ugyanaz az utasítás]
<pelda> „Harmadszor kérem a februári számlát." → számlázás, 2 </pelda> <pelda> „A csomag három napot késett, de megérkezett." → szállítás, 1 </pelda> <pelda> „A késés miatt elúszott a rendezvény, ezt így nem hagyom." → panasz, 3 </pelda>
A harmadik példa az, amiért az egész megérte: megmutatja, hogy a következmény dönt, nem a téma. Ezt szabályként nehéz lett volna leírni.
Amikor a példák sem elegek
Ha a formátumot húsz példával sem tartja be megbízhatóan, vagy ha minden kérésnél annyi példát kell odaadnod, hogy az már drága, akkor kinőtted a promptolást. Ilyenkor jön szóba a továbbtanítás — a Fine-tuning, RAG vagy jobb prompt? cikk mondja meg, melyik a te eseted.
Amit érdemes elvinni
A példa nem díszítés, hanem a specifikáció rövidebb formája. Három-öt, egymástól különböző minta, elkülönítve az utasítástól, és egy ellenőrző kérdés magadnak: mi közös bennük, amit nem akartam?