Miért nem elég „megkérdezni"?
Mert a modell nem tudja, mit tartasz jó válasznak. Neked megvan a fejedben, hogy a levél kinek szól, milyen hosszú legyen, mit ne írjon bele — a modell viszont csak azt látja, amit leírtál. Ami kimarad, arra tippel.
A Prompt, system prompt, temperature cikk négy elemet említett; itt öt lesz, mert egy jó utasításban a példa és a kimenekülési út is külön elem. Nem kell mind az öt minden kérésnél. De ha egy válasz nem jó, majdnem mindig az egyik hiányzik.
1. Feladat — mit csináljon
Egy mondat, ige. Nem téma, hanem művelet: foglald össze, sorold fel, írd át, hasonlítsd össze, keresd meg.
A leggyakoribb hiba nem a homályos ige, hanem hogy két feladat van egy mondatban. „Elemezd a szerződést és írj belőle ügyfélösszefoglalót" — ez két különböző munka, két különböző jó válasszal. A modell megpróbálja mindkettőt, és mindkettő félkész lesz. Bontsd ketté.
2. Anyag — miből dolgozzon
Ha nem adsz oda semmit, a modell emlékezetből dolgozik, és ott kezdődik a hallucináció . Ha odaadod a levelet, a szerződést, a táblázatot, akkor olvas.
Ide tartozik a háttér is, amit magától nem tudhat: ki az ügyfél, mi volt eddig, mi a cél. Egy mondat gyakran elég. „Ez az ügyfél másfél éve nálunk van, és most árat emelünk" — ettől más levél lesz.
3. Formátum — hogyan nézzen ki
Ez a legolcsóbb javítás, amit egy prompton végezhetsz, mert egy mondat, és azonnal használhatóvá teszi a kimenetet.
Mondd meg a formát (bekezdés, felsorolás, táblázat, JSON), a méretet (hány pont, hány mondat, hány szó), és ha táblázat, akkor az oszlopokat. „Táblázatban, oszlopok: tétel, határidő, felelős" — ennyi.
Ha az eredményt nem te olvasod, hanem továbbdolgozod, a Structured output cikk mutatja meg, meddig lehet elmenni. Egy dolgot érdemes tudni: a szószámot a modell nem tartja pontosan, mert nem tudja előre, hol fog kilyukadni. A szerkezet („öt pont", „három oszlop") viszont megbízhatóan megy.
4. Példa — mutasd meg, ne magyarázd
Ha a formátum vagy a hangnem nehezen írható le szabályként, adj egy mintát. Két jó példa többet ér tíz mondat magyarázatnál, és a szolgáltatók saját ajánlása is ez: három-öt darab, egymástól különböző példa, köztük egy nehéz eset is.
Fontos, hogy a példák elkülönüljenek az utasítástól, különben a modell összekeveri őket a feladattal. Erről szól a Few-shot cikk bővebben.
5. Kimenekülési út — mit tegyen, ha nem megy
Ez a leggyakrabban kihagyott elem, pedig ez fogja ki a legtöbb kárt.
Alapesetben a modellnek nincs elfogadható kimenete arra, hogy „nem tudom" — ezért inkább tippel. Ha te adsz neki egyet, élni fog vele:
Ha az anyag nem tartalmazza a választ, azt írd, hogy nem szerepel benne. Ne találj ki adatot.
Ugyanez igaz a bizonytalan részekre: „ahol nem egyértelmű, jelöld meg, ne döntsd el helyettem." A tiltások átírásáról a Korlátok, amiket betart a modellcikk szól bővebben.
Egy feladat, két változat
Tegyük fel, hogy egy beérkezett reklamációra kell válaszolnod.
Rossz:
Írj választ erre a panaszos levélre.
Ez egyetlen elemet tartalmaz, a feladatot. A modell kitalál egy hangnemet, egy hosszt, és — ami a legrosszabb — kitalálhat egy kártérítési ajánlatot is, mert a panaszos levelekben az szokott lenni.
Jó:
Írj választervezetet az alábbi reklamációra.
A levél: [a levél szövege] Amit tudni kell: az ügyfél másfél éve nálunk van, a késés a mi hibánk volt, és a szállítási díjat jóváírjuk. Kártérítést nem ajánlunk.
Formátum: legfeljebb 150 szó, három bekezdés — elismerés, mit teszünk, mikorra. Hangnem: tegező, tárgyszerű, bocsánatkérés egyszer, nem háromszor. Ha a levélből nem derül ki valami, ami a válaszhoz kell, kérdezz vissza, ne találd ki.
Ugyanaz a modell, ugyanaz a levél. A második változat használható tervezetet ad, az első egy találgatást.
Két félreértés
„Minél hosszabb, annál jobb." Nem. A hosszú prompt attól jó, hogy sok szükséges elem van benne, nem attól, hogy sok szó. A töltelék („nagyon fontos", „légy profi") nem javít semmit — a konkrét formátumkérés igen.
„Az udvariasság segít." A „légy szíves" és a „köszönöm" nem javítja az eredményt, és nem is rontja. Nem baj, ha úgy írsz, ahogy kényelmes — csak ne ezt tekintsd promptolási technikának.
Amit érdemes elvinni
Ha kész sablonokkal indulnál, a 20 irodai prompt mindegyike ezt az öt elemet követi. Ha pedig egy válasz nem jó, ne írd újra az egészet. Menj végig az öt elemen, és nézd meg, melyik hiányzik: nem mondtad meg pontosan a feladatot, nem adtad oda az anyagot, nem kértél formátumot, nem mutattál példát, vagy nem engedted meg neki, hogy nemet mondjon. A javítás szinte mindig egy mondat.