A különbség a jó válasz és a továbbdolgozható válasz között van. Ha a modell kimenetét ember olvassa, a szabad szöveg tökéletes. Ha bármi más dolgozik vele — táblázatkezelő, adatbázis, szkript, másik agent —, akkor kiszámítható szerkezet kell, különben minden második futásnál máshol lesz az adat.
Három szintje van. Az első, hogy szavakkal kéred a formátumot („három oszlop: dátum, összeg, partner"). A második, hogy sémát adsz meg, amihez igazodnia kell. A harmadik, hogy a szolgáltató garantáltan sémahelyes kimenetet ad. A legtöbben az elsőn ragadnak, pedig a másodikkal is elbírnak — és az már nagyságrenddel megbízhatóbb.
A leggyakoribb tévhit, hogy a strukturált kimenet a tartalmat is pontosabbá teszi. Nem teszi: a szerkezetet garantálja, az adat helyességét nem. Egy hibátlan JSON-ben is lehet rossz összeg.
A három szintről és a gyakorlati sémaírásról a structured outputcímű írás szól. A közvetlenül kapcsolódó fogalmak: prompt, tool use és function calling.