Néhány éve külön modellek voltak a gyors és a gondolkodó válaszra. Ma ez jellemzően egy beállítás ugyanazon a modellen: alacsony, közepes vagy magas. A magasabb érték azt jelenti, hogy a modell több köztes lépést tesz meg, mielőtt megszólal — és ezért a lépésekért is fizetsz.
A különbség nem apró. Összetett, többlépéses feladatoknál — levezetés, kódhiba keresése, több feltétel összeegyeztetése — a magasabb beállítás mérhetően pontosabb. Egyszerű feladatnál viszont csak lassabb és drágább: ugyanazt a választ adja, hosszabb úton.
A leggyakoribb hiba, hogy az emberek egy szintre állítják és ott hagyják. A helyes használat feladatfüggő: a tömeges, egyszerű műveletekre alacsony, a ritka, nehéz döntésekre magas. Aki mindenre magasat állít, az a számlájának nagyobbik részét olyan lépésekért fizeti, amikre nem volt szükség.
Hogy melyik szinten mi történik és mit fizetsz érte, arról a reasoning modecímű írás szól. A közvetlenül kapcsolódó fogalmak: chain-of-thought, token és inference.