A chain-of-thought eredetileg egy prompt technika volt: a „gondolkodj lépésről lépésre" mondat hozzáírásával a modell kiírta a köztes lépéseket, és ettől összetett feladatokon mérhetően pontosabb lett. A mechanizmus egyszerű — a leírt köztes lépés bekerül a modell saját kontextusába, és a következő lépés már erre épül.
Ma ez a technika nagyrészt beépült. A gondolkodó üzemmóddal rendelkező modellek maguktól végigviszik a levezetést, mielőtt válaszolnának, tehát a külön kérés legtöbbször felesleges. Van, ahol kifejezetten ront: egyszerű, egylépéses feladatnál a kikényszerített levezetés hosszabb, drágább és néha félrevisz.
A leggyakoribb tévhit, hogy a leírt levezetés a modell valódi gondolatmenete. Nem az — utólagos, szöveges magyarázat, ami lehet helyes végeredmény mellett is hibás, és fordítva. Ellenőrzésre ezért csak korlátozottan használható.
Hogy mi maradt belőle 2026-ban, és mikor éri meg még mindig elkérni a lépéseket, arról a chain-of-thought mai állásacímű írás szól. A közvetlenül kapcsolódó fogalmak: reasoning effort, prompt és few-shot.