Az embedding egy modellkimenete: egy mondatból néhány száz vagy néhány ezer számból álló vektor lesz. A trükk nem a számokban van, hanem abban, hogy a hasonló jelentésű mondatok vektorai közel kerülnek egymáshoz — így a gép akkor is megtalálja a keresett bekezdést, ha te teljesen más szavakkal kérdeztél rá.
Ez az alapja minden jelentés szerinti keresésnek és a RAG-nek. És sokkal olcsóbb, mint amire a legtöbben számítanak: tízezer vektor nagyjából 75 megabájt — elfér egy telefonon. A kérdés nem az, hogy van-e elég helyed, hanem hogy jó-e a darabolás, ami az embeddingek alá kerül.
A leggyakoribb tévhit, hogy az embedding megérti a szöveget. Nem érti — statisztikai hasonlóságot mér. Ezért bukik el ott, ahol a pontos szó számít: cikkszámnál, jogszabályi hivatkozásnál, ritka tulajdonnévnél. Ezekre a kulcsszavas keresés jobb, és a kettő együtt még jobb.
A mechanizmusról és a négy tipikus buktatóról az embedding és a vector searchcímű írás szól. A közvetlenül kapcsolódó fogalmak: vector database, chunking és hybrid search.