A vektor adatbázis egyetlen kérdésre válaszol: „melyik tárolt vektor van legközelebb ehhez?" Ez a jelentés szerinti keresés alapja — a szövegdarabokat embeddingként tárolod, a kérdést is vektorrá alakítod, és a rendszer a legközelebbieket adja vissza. Minden más, amit kínál — szűrés, metaadat, verziózás —, e köré épül.
A méretekről érdemes tudni két számot. Tízezer vektor nagyjából 75 megabájt — ez elfér egy telefonon. És a gyártó saját kapacitástervezési képlete szerint a keresést gyorsító gráf a teljes memória 5%-a: 5,72 GB vektor mellé 0,29 GB index. A memóriát a vektorok eszik, nem az index.
A leggyakoribb tévhit ebből következik: hogy a vektoros kereséshez külön adatbázis kell. A legtöbb induló projektnél nem kell — a bevett relációs adatbázisok ma tudnak vektort tárolni és keresni, és a valódi költség gyakran nem a technológia, hanem a külön szolgáltatás havi minimumdíja.
Hogy mikor kell tényleg külön rendszer, arról a vector database szakzsargon nélkülcímű írás szól. A közvetlenül kapcsolódó fogalmak: embedding, retrieval és hybrid search.