Adat, RAG & saját AI címke

13 Cikkek

Adat, RAG & saját AI ×

Egy 350 millió paraméteres, finomhangolt modell **77,6%-os** sikerarányt ért el egy eszközhívási feladaton — miközben egy 175 milliárd paraméteres általános modell ugyanott **26%-ot**. Ötszázszor kevesebb paraméter, háromszoros eredmény. Ez a fine-tuning valódi ígérete. És közben egy nagy szolgáltató **kivezeti a finomhangolási platformját**: új felhasználót már nem fogad, a meglévőknek 2027 januárjáig van idejük.

Haladó Fejlesztő Magyarázat Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Privát AI: hogyan marad a cégen belül az adat?

Az egyik nagy szolgáltató zero data retention megállapodása tételesen felsorolja, mely végpontokra vonatkozik — és mely nem. A nem-listán ott van a **fájlfeltöltés** és a **vektortároló**: **pontosan az a két funkció, amivel azon a platformon RAG-et építesz.** A másik oldalon pedig a „helyi tehát biztonságos" feltevés: egy 293 napos felmérés **175 108 nyilvánosan elérhető helyi modellszervert** talált 130 országban.

Haladó Vállalkozó How-To Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Helyi modellfuttatók: melyiket válaszd?

A legfontosabb, amit tudni kell: **az Ollama, az LM Studio, a Jan, a KoboldCpp és a Docker Model Runner mind ugyanazt a motort használja** — a llama.cpp-t, Macen az MLX-et. Nem a sebességben különböznek, hanem a becsomagolásban és az **alapértelmezésekben**. És pont az alapértelmezés a csapda: az Ollama alapból **4 096 tokenre vág**, akkor is, ha a modell 256 ezret tudna.

Kezdő Fejlesztő Eszközbemutató Ollama Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Quantization: hogyan férnek be a nagy modellek?

Egy 2026-os, egységes mérés szerint a négybites kvantálás **71%-kal csökkenti a modell méretét**, és cserébe átlagosan **0,43 százalékpontot** vesz el a pontosságból. Gyakorlatilag ingyen van. Csak épp **nem mindenkinek**: ugyanez a négybites kvantálás hosszú bemeneten **59%-os** zuhanást is okozott, és a romlás **nem angol nyelven akár ötszörös** — egy 26 nyelvű mérésben, amiben a magyar is benne van.

Haladó Fejlesztő Magyarázat Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Hardver a local LLM-hez: VRAM, memória, Apple Silicon

A bevett hüvelykujjszabály szerint a szükséges memória a paraméterszám fele. `[Saját számítás]` Egy nyolcmilliárd paraméteres modell négybites súlyai tényleg 4,6 gigabájtot esznek — **de ugyanennek a modellnek a 128 ezer tokenes kontextusa 18 gigabájtot**, azaz a modell négyszeresét. Aki csak a modellméretet nézi, a szükséges memória ötödét számolta ki. És van egy mérés, ami mindent megfordít: **egy feleannyi GPU-maggal rendelkező chip 83%-kal gyorsabban dolgozza fel a promptot, mint egy drágább** — miközben ötödével lassabban generál.

Haladó Fejlesztő How-To Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Miért futtass AI-t a saját gépeden?

A négy szokásos indok közül kettő megáll, kettő nem. `[Saját számítás]` A legolcsóbb API-szinttel szemben egy 3 500 dolláros gép **évi 2,6 milliárd tokennél** térül meg — ez 133 nap folyamatos generálás. És itt a csavar, ami az egész cikket összefogja: **az a volumen, ahol a helyi futtatás kifizetődik, pont az, ahol a helyi modell már nem elég jó.** Van viszont egy ötödik indok, amit senki nem mond ki, és mérhetően a legerősebb.

Kezdő Vállalkozó Magyarázat Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Hogyan maradjon friss a tudásbázis?

Egy 96 ezer kérdés-válasz páron és 219 ezer dokumentumon épült mérés szerint az elavult tartalom jelenléte a vizsgálat szerint **legalább 20%-os teljesítményesést** okoz, és egyes modellek a véletlennél is rosszabbul teljesítenek. De a legfontosabb megállapítás nem a szám: **a modellek megfelelően bizonytalanok maradnak, ha nem találnak semmit — és magabiztosan tévednek, ha elavultat találnak.** Az üres tudásbázis kevésbé veszélyes, mint a régi.

Középhaladó Vállalkozó How-To Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Céges tudásbázis-chatbot: realisztikus terv

Egy légitársaság chatbotja rosszul mondta el a gyászolói kedvezmény szabályait. A cég azzal védekezett, hogy nem felel az „ügynökei által adott információért, beleértve egy chatbotot" — és felvetette, hogy **a chatbot külön jogalany**. A bíróság válasza egy mondat, amit érdemes kinyomtatni: **„Nincs jelentősége, hogy az információ statikus oldalról vagy chatbottól jön."** A kártérítés 812 dollár volt. A precedens nem az.

Középhaladó Vállalkozó Recept Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Honnan tudod, hogy a RAG-rendszered jól válaszol?

Egy nyilvános kiértékelési versenyen összemérték a bírálómodellt az emberi bírálóval. Az egyetértésük véletlenre korrigálva **0,29** lett. Ugyanezen a feladaton **két ember egyetértése −0,03** — vagyis rosszabb a véletlennél. Nem az a helyzet, hogy „a gép rossz, az ember jó". A feladat maga rosszul definiált a határeseteknél. Ez a cikk arról szól, mit lehet ennek ellenére megbízhatóan mérni.

Haladó Vállalkozó How-To Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Hybrid search: miért nem elég a vektor?

Egy 24 ezer kérdéses akadémiai mérésben a „ki [X] gyermeke?" típusú kérdésekre a vektoros keresés **19,2%** pontosságot ért el — az évtizedek óta létező kulcsszavas algoritmus **82,9%-ot**. Hatvanhárom pont különbség. Ugyanezek a módszerek egy másik kérdéssorozaton pont fordítva állnak. **Nem az egyik jobb a másiknál: más hibáik vannak.** Csak épp a hibrid keresés nem az, ami a legtöbbet javít — az a rangsorolás.

Haladó Fejlesztő How-To Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Vector database szakzsargon nélkül

Egy elterjedt tévhit szerint a vektoros index sok memóriát eszik. A gyártó saját kapacitástervezési képlete szerint **a gráf a teljes memória 5%-a** — 5,72 GB vektor mellé 0,29 GB index. A memóriát a vektorok eszik. És van egy ennél is fontosabb szám: **tízezer vektor 75 megabájt.** Elfér egy telefonon. A kérdés tehát nem az, hogy kell-e külön vektoradatbázis, hanem hogy **mikor** — és a válasz jellemzően „később, mint hinnéd".

Középhaladó Fejlesztő Magyarázat Adat, RAG & saját AI

2026. szept. 13.

Krisztian Eyssen, Krisztian Eyssen

Chunking: dokumentumok előkészítése és felszabdalása

Egy mérés szerint pusztán attól, hogy a hosszú dokumentumot feldarabolod, a visszakeresés **28,2-ről 45,7-re** javul — **17,5 pont ingyen**. Ugyanez a mérés azt is megmutatja, hogy a **nagyobb darab monoton rosszabb**. A kellemetlen része: a legelterjedtebb eszközök gyári alapbeállítása 800 és 1 024 tokenes, illetve 4 000 karakteres darabokkal dolgozik — és egy független mérésben a 800-as beállítás **a mezőny alján** végzett.

Haladó Vállalkozó How-To Adat, RAG & saját AI

2026. szept. 13.

Kövess minket

Archívumok

Címkék

Célközönség

Mindenki Irodai dolgozó Marketinges Kreatív Vállalkozó Fejlesztő

Eszköz

OpenRouter Perplexity HeyGen ElevenLabs Suno Obsidian MCP n8n Ollama EYAS

Kategória

Alapok Biztonság & kockázat Szabályozás & politika Infrastruktúra & chipek Üzlet & befektetés Promptolás Modellek & piac Szövegírás & tartalom Kép & design Videó & hang Marketing & SEO Fejlesztés & kódolás Iroda & produktivitás Agentek & automatizálás Adat, RAG & saját AI Üzlet, jog & biztonság

Szint

Kezdő Középhaladó Haladó

Típus

How-To Magyarázat Összehasonlítás Eszközbemutató Recept Sablon Hibaelhárítás Esettanulmány Fogalomtár Hír

Egyebek

Odoo