Hace unos años había modelos distintos para la respuesta rápida y para la razonada. Hoy suele ser un ajuste del mismo modelo: bajo, medio o alto. Un valor más alto significa que el modelo da más pasos intermedios antes de hablar — y esos pasos también los pagas.
La diferencia no es pequeña. En tareas complejas de varios pasos — un desarrollo, buscar un fallo en el código, conciliar varias condiciones — el ajuste alto acierta más de forma medible. En una tarea simple, en cambio, solo resulta más lento y más caro: la misma respuesta por un camino más largo.
El fallo más habitual es que la gente lo pone en un nivel y ahí lo deja. El uso correcto depende de la tarea: bajo para las operaciones masivas y sencillas, alto para las decisiones raras y difíciles. Quien lo pone todo en alto paga la mayor parte de su factura por pasos que no hacían falta.
Qué ocurre en cada nivel y qué pagas por ello lo cuenta Reasoning mode: ¿qué ganas cuando el modelo piensa más rato?, un artículo aparte. Los conceptos directamente relacionados: chain-of-thought, token e inference.