A modell a legvalószínűbb folytatást állítja elő, nem igazságértéket ellenőriz. Ha nincs elég alapja, akkor is előáll egy nyelvtanilag hibátlan, meggyőző mondattal — mert erre van tervezve. Ez ugyanannak a képességnek a másik oldala, amitől egyáltalán hasznos.
Mérhető, és nem oldódott meg. A legkönnyebb feladaton — egyetlen odaadott dokumentum összefoglalása — a legjobb modellek 2%-os hibaarányig lementek — de ezt a számot csak a válaszadási aránnyal együtt szabad olvasni: van modell, amelyik minden ötödik kérdésre nem is válaszol. A nehezebb, valósághű feladatokon viszont sokkal rosszabb: egy 3 000-nél több választ, 18 országban, 14 nyelven hivatásos újságírókkal értékeltető vizsgálatban a válaszok 45%-a tartalmazott legalább egy jelentős hibát.
A leggyakoribb tévhit, hogy csak kitalált tényekre vonatkozik. Nem: akkor is hallucináció, ha a modell létező forrást idéz, de az nem azt mondja. Ez a veszélyesebb eset, mert a hivatkozás kattintható, és ettől hitelesnek látszik.
A mechanizmusról és az öt gyakorlati csökkentési módról miért hazudik az AIcímű írás szól. A közvetlenül kapcsolódó fogalmak: RAG, guardrail és temperature.