A különbség egy mondatban
A zárt modellhez csak API-n vagy alkalmazáson keresztül férsz hozzá. A gyártó szerverén fut, és te a szolgáltatást veszed meg.
Az open-weight modell súlyait letöltheted, és ott futtatod, ahol akarod: a céges szerveren, egy bérelt gépen, vagy akár a saját laptopodon.
Amit az „open" itt nem jelent
Ezt érdemes tisztázni, mert félrevezető.
Az open-weight nem azonos a nyílt forráskóddal. A súlyok letölthetők, de a tanítóadat szinte sosem publikus, és a tanítási eljárás sem teljesen. Nem tudod reprodukálni a modellt, csak futtatni.
És nem feltétlenül szabadon felhasználható. A licencek eltérők: van, amelyik korlátozza a kereskedelmi használatot, van, amelyik bevételi küszöb fölött díjat kér. A legnagyobb, legerősebb open-weight modelleknél gyakoribbak a megkötések, mint a kisebbeknél. Használat előtt el kell olvasni a licencet — ez nem formalitás.
A három szempont, ami tényleg dönt
1. Hol vannak az adataid?
Ez a leggyakoribb valódi ok az open-weight mellett.
Zárt modellnél az adat elhagyja a céget. A komoly szolgáltatók üzleti csomagjaiban szerződésben áll, hogy nem tanítanak rajta, és van EU-s adattárolási opció is — sok esetben ez teljesen elegendő.
De van, ahol nem elég: egészségügyi adat, ügyvédi titok, olyan szerződéses kötelezettség, ami tiltja a harmadik félnek való továbbítást. Ilyenkor az open-weight nem jobb választás, hanem az egyetlen választás.
Fontos viszont: a saját szerveren futtatás önmagában nem adatvédelem. Ha rosszul konfigurálod, rosszabb helyzetben vagy, mint egy komoly szolgáltatónál.
2. Mennyibe kerül?
Itt egy elterjedt tévedést kell eloszlatni: az open-weight nem ingyenes. A modell ingyen van, a futtatása nem.
Zárt modellnél tokenenként fizetsz. Nincs alapdíj, nincs üzemeltetés, és nulla kérésnél nulla a költség.
Open-weightnél hardvert fizetsz — vásárolva vagy bérelve —, plusz az üzemeltetést. Ez fix költség, ami akkor is fut, ha aznap senki nem használja.
A számítás ebből egyszerű: kis és közepes forgalomnál a zárt modell olcsóbb. Nagyon nagy, folyamatos forgalomnál fordul a kocka, mert a fix költség elosztódik. A fordulópont cégenként más, de a legtöbb kkv-nál messze van.
3. Mi történik, ha a gyártó változtat?
Ez a szempont a legkevésbé látványos, és utólag a legfájóbb.
Zárt modellnél a gyártó bármikor kivezetheti a modellt, módosíthatja a viselkedését vagy emelhet árat. Ez nem elméleti: a modellek kivezetése rendszeres esemény, és ilyenkor a rá hangolt promptjaid másképp fognak működni.
Egy letöltött open-weight modell viszont ugyanaz marad. Ha ma működik, öt év múlva is ugyanúgy fog. Szabályozott környezetben, ahol egy validált folyamatot nem lehet csak úgy megváltoztatni, ez döntő érv.
Ami a képességet illeti
Régen egyszerű volt: a zárt modellek erősebbek voltak. Ma árnyaltabb.
A legerősebb modellek továbbra is zártak, de a különbség érezhetően szűkült, és a legjobb open-weight modellek ma azon a szinten vannak, ahol a zárt élvonal járt nem is olyan régen. A feladatok többségéhez ez bőven elég.
A gyakorlati kérdés nem az, melyik erősebb, hanem hogy a te feladatodra elég-e. Ezt egy húsz valódi példából álló próbával fél nap alatt eldöntöd — sokkal megbízhatóbban, mint bármelyik ranglistából. Erről szól a Hogyan olvassunk AI-benchmarkot cikk.
Egy döntési sorrend
Ne azzal kezdd, hogy melyik tábor szimpatikusabb. Kérdezz sorban:
- Van olyan adat, ami jogilag vagy szerződésileg nem hagyhatja el a céget? Ha igen, open-weight, saját üzemeltetéssel. A többi kérdés már csak a kivitelezésről szól.
- Nagyon nagy, kiszámítható forgalom lesz? Ha igen, számold ki mindkét változatot. Lehet, hogy megéri a saját futtatás.
- Egyik sem? Kezdd zárt modellel. Gyorsabban jutsz működő megoldáshoz, és később bármikor válthatsz.
A harmadik pont a leggyakoribb eset, és nem szégyen. A legrosszabb kimenetel az, ha fél évet töltesz infrastruktúra-építéssel, mielőtt kiderülne, hogy a feladat egyáltalán megoldható-e AI-val.
Amit érdemes elvinni
A választás nem hitvallás, hanem három kérdés: hol lehetnek az adatok, mekkora a forgalom, és mennyire fáj, ha a gyártó változtat. Ha mindháromra van válaszod, a döntés magától adódik.