Először: tényleg kell darabolni?
Sokan olyankor is darabolnak, amikor felesleges. A mai context window jellemzően egymillió token körül van — az néhány száz oldal. Egy negyven oldalas szerződés simán belefér, és egyben feldolgozva pontosabb választ ad, mint darabolva, mert a modell látja az összefüggéseket a szakaszok között.
Három jel mutatja, hogy mégis darabolni kell:
- Nem fér bele. Egy több száz oldalas dokumentáció, egy évnyi levelezés, egy teljes jogszabálygyűjtemény.
- Belefér, de romlik a minőség. A pontosság jóval a korlát elérése előtt esni kezd: egy nagyon hosszú szövegben a közepére eső információt a modell megbízhatatlanabbul használja, mint az elejére vagy a végére esőt. Ha az anyag közepéből hiányoznak a találatok, ez a tünet.
- Sokszor fogod feltenni ugyanazt. Ha minden kérdésnél átmegy a teljes anyag, a számla négyzetesen nő.
A módszer: bontás, kivonat, összefűzés
Három lépés, és a legtöbb hiba a másodikban dől el.
1. Bontás. Vágd fel az anyagot kezelhető darabokra.
2. Kivonat. Minden darabon lefuttatod ugyanazt a kérdést, és nem összefoglalót kérsz, hanem a kérdés szempontjából releváns tényeket.
3. Összefűzés. A kivonatokat egyben odaadod, és abból készül a végleges válasz.
Amit előre el kell dönteni
Mi a végső kérdés? Ez nem formalitás. A második lépésben azt kell kinyerned minden darabból, ami a végső kérdéshez kell — és ez darabonként másképp néz ki, ha nem tudod előre, mit keresel.
Ha a végső kérdés az, hogy „milyen kötelezettségeink vannak és mikorra", akkor a kivonat nem „miről szól ez a rész", hanem: kötelezettség, határidő, felelős, szakaszszám. Ha összefoglalót kérsz, a következő lépésben már nem lesz miből dolgozni — az összefoglaló épp a részleteket dobta el.
Hol vágj?
A dokumentum szerkezete mentén, ne fix karakterszámnál. Fejezet, szakasz, napirendi pont, dátum. Ha egy gondolat kettévágódik két darab közé, egyik darabból sem lesz jó kivonat.
Két gyakorlati fogás:
- Legyen átfedés. A szomszédos darabok néhány bekezdésnyit lógjanak egymásba, hogy a határon lévő mondat mindkettőben megmaradjon.
- Minden darab hozza magával, hogy honnan való. Fejezetszám, oldalszám, dátum. Enélkül a végén nem tudod visszakeresni, honnan jött egy állítás — és épp ez az, amiért az egészet csinálod.
Ugyanez a logika áll a keresésre épülő rendszerek mögött is; ott hívjuk chunkingnak. Az Embedding és vector search cikk ugyanezt a buktatót járja körül részletesebben.
A kivonat-prompt, ami minden darabon fut
Ez a lépés akkor jó, ha unalmas és következetes. Ugyanaz a prompt, ugyanaz a formátum, minden darabon:
<feladat>
Az alábbi részletből gyűjtsd ki a kötelezettségeket.
Ha nincs benne ilyen, azt írd: NINCS.
</feladat>
<reszlet forras="3. fejezet, 12-18. oldal">
[a darab szövege]
</reszlet>
<formatum>
Soronként egy tétel: kötelezettség | határidő | felelős | szakaszszám
Csak azt, ami a részletben szerepel. Ne egészítsd ki.
</formatum>
A NINCS fontos: enélkül a modell úgy érzi, találnia kell valamit, és talál is.
Az összefűzés, ahol a lényeg elveszik
Ez a leggyakrabban elsietett lépés. Ne csak összemásold a kivonatokat — mondd meg, mit csináljon velük:
Az alábbi részletekből készíts egy összesítést. Az azonos kötelezettségeket vond össze, és jelöld, melyik szakaszokból származnak. Ahol a határidők ellentmondanak egymásnak, ne válassz — sorold fel mindkettőt, forrással.
Az utolsó mondat az, ami miatt megérte az egész. Az ellentmondás a legértékesebb találat egy hosszú anyagban, és ha nem kéred külön, a modell elsimítja — kiválasztja az egyiket, és a másik eltűnik.
Amikor ennél jobb megoldás kell
Ha rendszeresen, sok kérdést teszel fel ugyanarra az anyagra, akkor a darabolás minden alkalommal újra lefut, és ez pazarlás. Ez már a context engineeringterepe: ilyenkor nem a promptot kell tökéletesíteni, hanem keresést tenni elé, hogy csak a releváns rész menjen át. A Fine-tuning, RAG vagy jobb prompt? cikk mondja meg, hol van a határ.
Amit érdemes elvinni
Előbb a végső kérdés, aztán a darabolás. A kivonat nem összefoglaló: azt kell kiszedni minden darabból, ami a végső válaszhoz kell, forrásmegjelöléssel. És az összefűzésnél kérd külön az ellentmondásokat — az az egy mondat menti meg a lényeget.