Mi történt
szept 8 kutatói lemondás X-en
szept 9 Anthropic: saját incidensek
szept 10 fenyegetés-jelentés, politikusok
szept 11 újabb biztonsági kutató távozik
szept 12 „lassítanunk kell" — Amodei
Szeptember 8-án este Jacob Coxon, az Anthropic pretraining-kutatója bejelentette a távozását, ezekkel a szavakkal: „Három évet töltöttem pretraining-kutatással az OpenAI-nál és az Anthropicnál. Egyik cég sem cselekszik felelősségteljesen. Egyenesen az önmagát fejlesztő szuperintelligencia felé rohannak, és az életünkkel játszanak." A másik mondata, amit mindenhol idéztek: „Akik az AI-t építik, őszintén hiszik, hogy az évtized végére mindannyiunkat megölhet."
Két Anthropic-kutató nyilvánosan mellé állt. Evan Hubinger, az alignment-kutatás vezetője ezt írta: „Jacobnak igaza van — tényleg őszintén hisszük, hogy az AI megölhet minden embert. Én személy szerint 10% fölé teszem a következő évtizedben." Szeptember 11-én Joe Benton, az Anthropic egyik biztonsági csoportjának vezetője is távozott, hasonló indoklással.
Közben az Anthropic két külön dokumentumot adott ki: szeptember 9-én a saját modelljei négy incidenséről (a Claude kiberbiztonsági gyakorlatok közben jogosulatlanul ért el valós rendszereket; 481 millió átiratot szűrtek át, és megállapodtak a METR-rel független vizsgálatról), szeptember 10-én pedig a külső támadókról szóló fenyegetés-jelentést, amiről külön írtunk — a kettő nem ugyanaz, és a sajtó rendszeresen összekeverte őket.
Három dolog, amit a sajtó pontatlanul adott vissza
„Vezető AI-kutató." Coxon pretraining-kutató volt, nagyjából négy hónapja az Anthropicnál (előtte három évig az OpenAI-nál). Egyetlen elsődleges forrás sem nevezi vezetőnek. Az a két ember, aki tényleg vezető pozícióban van és megszólalt — Hubinger és Benton —, kevesebb figyelmet kapott, pedig az ő szavuk súlyosabb.
„2030." Ez a Guardian címébőlszármazik, nem Coxontól. Coxon „az évtized végét" mondta, azt is mások meggyőződéseként; a saját becslése az irányítás elvesztésére ennél sokkal közelebbi: „jövő év végére". A pontosság itt nem szőrszálhasogatás — más döntést hoz az ember 2027-re, mint 2030-ra.
„A modell eltért a kijelölt feladattól." Az Anthropic vizsgálata ennek pont az ellenkezőjét írja: a modellviselkedése hibás volt, de „soha nem tért el attól, hogy a rá bízott feladatot próbálja megoldani". Egy fordítási hiba itt átbillenti a hír értelmét.
Mit kér a vezérigazgató
Szeptember 12-én Dario Amodei közzétette a We Must Pace the Frontiercímű esszéjét. A lényeg: lassítani kell azt az ütemet, ahogy a modellek képességei nőnek. Az Anthropic egyoldalúan vállalta, hogy külső értékelőknek munkavállalói szintű, állandó hozzáférést ad a modellekhez; Sam Altman bejelentette, hogy az OpenAI ugyanezt megteszi, Elon Musk pedig annyit írt: „Dariónak igaza van."
Az esszé érdekesebb fele az, ahol Amodei kimondja a saját javaslata korlátját: „A demokráciákon belüli lassítást korlátozza az az előny, amivel az amerikai cégek a tekintélyelvű rendszerekkel szemben rendelkeznek. Ha ennél jobban lassítunk, akkor a nem lassító projektek elénk kerülnek, ami komoly nemzetbiztonsági kockázatot teremt." Négy lehetséges nemzetközi megállapodást sorol fel, és a legerősebbről maga írja, hogy „valószínűtlen, hogy belátható időn belül megvalósul".
Hol tart eközben a szabályozás
| Hol | Mi kötelező ma a frontier modellekre |
|---|---|
| EU | Az AI Act általános célú modellekre vonatkozó része 2025 augusztusa óta él, az átláthatósági szabályok idén augusztus óta. A magas kockázatú rendszerek határidejét viszont a Digital Omnibus 2027 decemberére és 2028 augusztusára tolta. |
| USA szövetségi | Semmi. A FRONTIER Act júliusi benyújtás óta bizottságban áll; a katasztrofális kockázatról szóló szenátusi alku szövege szeptember 12-én még nem volt nyilvános. |
| Kalifornia | A frontier-modellekre vonatkozó átláthatósági törvény januárban lépett hatályba: kockázati keretrendszer közzététele, súlyos incidens jelentése 15 napon belül, bejelentővédelem. |
| Kína | Tartalomszabályozás és nyilvántartásba vétel van — kötelező címkézés 2025 szeptembere óta, közel ezer bejegyzett generatív szolgáltatás. Képességi küszöb, kötelező modellértékelés, incidensjelentés viszont nincs; a kockázatkezelési keret , amely a kontrollvesztést is nevesíti, nem kötelező. |
Érdemes hozzátenni: Kína aláírta a bletchleyi és a párizsi nyilatkozatot, Hszi Csin-ping júliusban szó szerint arról beszélt, hogy „meg kell előzni a kontroll elvesztését", és biztosítani kell, hogy az AI „mindig emberi ellenőrzés alatt maradjon". A szöveg tehát megvan. A kötelező erő nincs meg.
Mit jelent ez neked
Rövid távon semmit: a jövő heti munkádban nem változik semmi attól, hogy egy kutató kilépett. Két gyakorlati következménye viszont van. Az egyik, hogy az uniós átláthatósági kötelezettségek már ma élnek — ha AI-val készült tartalmat teszel közzé, az téged érint, nem a szuperintelligencia. (Bővebben: EU AI Act megfelelés a gyakorlatban.) A másik, hogy a laborok mostantól nyilvánosan versenyeznek a „felelős" címért, és ez a gyakorlatban több kivezetést, több modellcserét és több változó feltételt jelent: pontosan azt, amit ezen a blogon hétről hétre követünk.
Vélemény
Ez a szakasz a saját álláspontom, nem tényközlés.
Elhiszem, hogy a kockázat valós — nehéz mást gondolni akkor, amikor pont azok mondják ki, akik építik. Azt is látom, hogy a szabályozás sürgetőbb, mint valaha. De van egy pont, ahol a sürgetés önmagában rossz irányba visz: az a szabály, ami csak az egyik oldalt köti, nem csökkenti a kockázatot, hanem elmozdítja. A képesség nem tűnik el attól, hogy Európában vagy Kaliforniában nehezebb kiadni: átkerül oda, ahol nincs ilyen szabály.
És a mai állás pont ez. Kínában van kötelező címkézés és nyilvántartás, de nincs egyetlen kötelező frontier-kockázati előírás sem — se képességi küszöb, se kötelező értékelés, se incidensjelentés. A szöuli nyilatkozatot nem írta alá, az AI Safety Institute-ok hálózatában nincs benne, az uniós GPAI-kódexnek nincs kínai aláírója. Közben a kínai laborok 2026-ban 1,7 és 2,8 billió paraméter közötti modelleket adtak ki nyílt súlyokkal, és az Epoch AI mérése szerint az élvonaltól való lemaradásuk átlagosan hét hónap. Hét hónap nem szakadék. Hét hónap annyi, amennyit egy egyoldalú fékezés simán elolvaszt.
Ez nem a „ne szabályozzunk" álláspont, és a legkevésbé sem Kína-ellenes érv: ugyanez igaz mindenki másra, aki tovább dolgozik rajta. Az az érvem, hogy a szabályozás értéke azon áll vagy bukik, hogy ellenőrizhető és többoldalú-e. Amit ma írnak alá, az többnyire egyik sem. Amodei maga is ezt írja le, csak óvatosabban: a legerősebb megállapodás szerinte belátható időn belül nem valósul meg, a gyengébbek pedig csak akkor érnek valamit, ha van hozzájuk ellenőrzés.
Amiben viszont nincs igaza annak, aki ebből a tétlenséget vezeti le: van egy sáv, ami majdnem nem kerül sebességbe. Az átláthatóság, az incidensbejelentés, a független külső értékelés és néhány kőkemény tiltás — biofegyver, kritikus infrastruktúra — nem lassít le semmit, viszont pont ezek azok, amiknél a legnagyobb esély van a többoldalú megállapodásra. Ezekkel kellene kezdeni, nem a képességi plafonnal.
A legrosszabb kimenetel az lenne, ha Európa a saját kis- és középvállalkozásait szabályozná abba a helyzetbe, hogy se biztonságunk, se képességünk ne legyen — miközben a frontier ott marad, ahol eddig, csak épp kikerül a látóterünkből. Ha választani kell a jelenlegi két véglet között, akkor inkább a lassú, ellenőrizhető, több országot bevonó megállapodás, mint a gyors, látványos és egyoldalú tiltás. Az elsőnek van esélye működni. A másodikról már tudjuk, mit csinál: nem a kockázatot szünteti meg, hanem a rálátást.