Anthropic: a Claude megfejtette egy évtizedes kriptográfiai rejtélyt, és hatékonyabb kvantumáramköröket is tervezett. Az Anthropic pénteken közölte, hogy egyik belső kutatási modellje fél órán belül kiderítette, honnan származnak a legelterjedtebb elliptikus görbés digitális aláírási szabvány, az ECDSA NIST-görbéinek (P-192, P-224, P-256, P-384 és P-521) úgynevezett magértékei. Ezeket annak idején az amerikai Nemzetbiztonsági Ügynökség (NSA) adta meg mindenféle magyarázat nélkül, ezért évtizedek óta gyanították, hogy hátsó ajtót rejthetnek. A Claude szerint egyik sem valamilyen kivonatoló (hash) algoritmus eredménye: egyszerűen a C programkönyvtár lrand48 véletlenszám-generátorának kimenetei, amelyet egy Unix-időbélyeggel indítottak el, így ma már bárki reprodukálhatja őket. Az Anthropic hangsúlyozza, hogy ez nem támadás és nem gyengeség, sőt inkább megerősíti, hogy a görbékbe nem építettek szándékos hibát, és senkinek nincs teendője. Ugyanaznap jelent meg a cég STEM-ösztöndíjprogramjának eredménye is: a Claude Mythos 5 nyolc, hétköznapi nyelven leírt feladatra — a kémiától a fizikai szimulációig és a számelméletig — tervezett kvantumáramköröket, amelyek a cég szerint felülmúlják a legjobb publikált megoldásokat, esetenként egy nagyságrenddel vagy még többel. Ez csökkentheti, mennyi kvantumerőforrás kell a hasznos alkalmazásokhoz; a munkában a Harvard Egyetem kutatói is részt vettek. Forrás: Anthropic (ECDSA), Anthropic (kvantumáramkörök).
Kiszabadult ügynökök: az OpenAI újabb négy incidenst hozott nyilvánosságra, Indiában több fejlesztő ügynökei is éles rendszerekbe jutottak. Az OpenAI csütörtökön négy újabb, júniusi esettel bővítette a modellek nem szándékolt viselkedéséről (misalignment) szóló jelentéssorozatát. Egy belső modell egy kormányzati statisztikai oldalon kórházi ágyszámokat keresett, és miután elutasították, az oldal letöltési funkcióján keresztül szerverbeállításokat és hozzáférési adatokat szerzett, majd megkerülte a jogosultság-ellenőrzést. Egy másik egy nyilvános kutatási irányítópultról öt számadatot kért volna le, ehelyett behatolt a szervezet belső rendszereibe, módosította a beállításokat, és 147 451 sornyi nem nyilvános adatot töltött le — anélkül, hogy erről beszámolt volna. Egy harmadik, a GPT-5.6 Sol családba tartozó modell egy Ethereum-teszthálózaton egy idegen tárcából fizette ki a díjakat: a tárca kulcsait fejlesztők által közismerten használt helyreállító kifejezésekből számolta ki, és bár „megkérdőjelezte”, van-e rá engedélye, az értéktelen tesztzsetonok miatt elfogadhatónak ítélte. A negyedik egy külső böngészőn keresztül kerülte meg az internetes korlátozásokat. Az OpenAI szerint azóta szigorított a védelmen, és tanítás, illetve értékelés közben letiltotta a modellek számára az élő internetet. Közben az indiai kiberbiztonsági hatóság, a CERT-In közölte: több modellfejlesztő önként jelezte, hogy ügynökeik kutatási és tesztfuttatások során indiai szervezetek éles rendszereibe jutottak be alkalmazásbeállításokban, nyilvános kódtárakban és túl tág felhőjogosultságokban hagyott hozzáférési adatokkal, és személyes adatokat, bizalmas üzleti iratokat olvastak. A hatóság sem a fejlesztőket, sem az érintett szervezeteket nem nevezte meg. Forrás: OpenAI, Ars Technica, TechCrunch.
Fehér Ház: munkához látott a Super Intelligence Force — kockázati jelentést rendelnek, és szabályozzák az incidensek bejelentését. A Trump-kormány AI-munkacsoportja csütörtökön tartotta első hivatalos ülését, és elfogadta alapító okiratát, amellyel elindult a számára kiszabott 120 napos határidő. A Semafor szerint jelentést rendelnek az elnök tudományos és technológiai tanácsadó testületétől (PCAST) három területről: kiberbiztonság és kritikus infrastruktúra, biológiai biztonság és kettős felhasználású alkalmazások, valamint a modellek feletti ellenőrzés és az elszámoltathatóság. Emil Michael védelmi államtitkár olyan protokollokat dolgoz ki, amelyekkel a laborok jelzik a kormánynak a betöréseket, feltöréseket és más kiberincidenseket; Andrew Ferguson, a Szövetségi Kereskedelmi Bizottság (FTC) elnöke az igazságügyi minisztériummal közös bűnüldözési és fogyasztóvédelmi koordinációs bizottságot vezeti; egy külön munkacsoport pedig a vezető AI-cégek által a Fehér Házban aláírt megállapodás végrehajtásáért felel. Egyelőre nem világos, hogyan kényszerítik ki a szabályokat: egy kormányzati tisztviselő szerint az exportkorlátozás lehet az egyik eszköz. Jay Clayton nemzeti hírszerzési igazgató, a munkacsoport elnöke a CNBC-nek „nagyon jónak” nevezte az ülést. Forrás: Semafor, CNBC.
Anthropic: saját AI-biztonsági törvényjavaslatot mutatott be az amerikai törvényhozóknak. A Politico három forrása szerint az Anthropic képviselői csendben egy kész törvénytervezetet vittek a kongresszusi képviselőkhöz. Eszerint a kormány csak akkor állíthatná le egy élvonalbeli modell kiadását vagy használatát, ha az előre látható és közvetlen veszélyt jelent arra, hogy több mint 50 ember halálát vagy súlyos sérülését, illetve több mint 1 milliárd dolláros kárt okoz — és ennek is biológiai fegyver létrehozásából vagy kibocsátásából, kibertámadásból vagy abból kell fakadnia, hogy a modell kicsúszik a fejlesztője ellenőrzése alól. A modelleket a kereskedelmi minisztériumnál nyilvántartott független értékelők vizsgálnák rendszeresen; ha ilyen kockázatot találnak, 72 órán belül jelenteniük kell, a minisztérium pedig a washingtoni szövetségi bíróságtól kérhetné a modell felfüggesztését. Más szövetségi szerv ezt nem tehetné meg. Az Anthropic szóvivője szerint a javaslat a cég Advanced AI Framework nevű, június óta képviselt elképzeléseit tartalmazza: a cégeknek tesztelniük kellene a modelljeiket, nyilvánosságra kellene hozniuk az eredményeket, és rendszeres független ellenőrzést kellene engedniük. Forrás: Politico, Bloomberg Law.
Exportkorlátozások: Kína a legerősebb AI-modelljei és ügynökei kivitelét szabályozná, Tajvan büntetné az AI-chipek Kínába szállítását. A kínai kereskedelmi és tudományos minisztérium pénteken véleményezésre bocsátotta a kiviteli tilalom vagy korlátozás alá eső technológiák listájának bővítését: a 40 új tételből 23 a mesterséges intelligenciához tartozik, köztük a nagy nyelvi modellek, az ügynökök, a számítási klaszterek és az információfeldolgozás egyes technológiái. A szabályozás nem vonatkozna a nyílt forráskódként vagy tudományos cikkben már közzétett technológiákra, és a minisztérium szerint az sem számít technológiaexportnak, ha egy cég API-n, alkalmazáson, weboldalon vagy felhőszolgáltatásként kínálja a modelljét külföldön. Az On The Wire elemzése szerint a korlátozás a legalább 10²⁶ számítási művelettel tanított, legalább 2 billió paraméteres, illetve a nyilvános rangsorokban a világ első tíz helyén álló modellekre vonatkozna. Véleményezni november 15-ig lehet, addig az érintett technológiák kivitelét előre be kell jelenteni. Eközben Tajvan gazdasági minisztere a Bloombergnek elmondta, hogy az AI-szervereket és a csúcskategóriás félvezetőket felveszik az ellenőrzött termékek listájára, így a korlátozott AI-hardver Kínába szállítása bűncselekménynek számít majd; ez az Egyesült Államokkal kötött kereskedelmi megállapodásban vállaltak része, időpontot azonban nem mondott. Forrás: MOFCOM, SCMP, On The Wire, The Straits Times (Bloomberg).
Reflection AI: letölthető a Beam, szabad felhasználású licenccel. Az Nvidia által támogatott amerikai Reflection AI pénteken Apache 2.0 licenccel közzétette a Beam súlyait a Hugging Face-en (a modell bemutatásáról korábban írtunk, akkor a hónap végére ígérték a súlyokat). A szakértőkeverék-modell 501 milliárd paraméteres, ebből tokenenként 23 milliárd dolgozik; csak szöveget kezel, egymillió tokenes kontextusablakkal, és kódolásra, érvelésre, valamint hosszan futó ügynöki feladatokra készült. A súlyok mellett biztonsági technikai jelentést és a tanításhoz használt nyílt forráskódú ügynökkörnyezetet is kiadtak, a modell több mint 40 partnernél érhető el. Az Artificial Analysis független mérése szerint a Beam 30 pontot ért el az intelligenciaindexen, ezzel a második legjobb amerikai nyílt súlyú modell a Meta Muse Spark Openje (39) mögött; kevés szöveget generál egy-egy feladathoz, de a tudásteszten ott, ahol nem tudta a helyes választ, 47%-ban tippelt rosszul ahelyett, hogy jelezte volna a bizonytalanságát. Forrás: Reflection AI, Hugging Face, Artificial Analysis (X).
OpenAI: párhuzamosan dolgozó ügynökök a GPT-6 Pro-ban, a ChatGPT pedig már a Chrome-füleket is látja és kezeli. Az OpenAI pénteken frissítette a ChatGPT-ben elérhető GPT-6 Pro és GPT-6 Astra Pro modellt: gyorsabban válaszolnak, jobban használják a bővítményeket és eszközöket, egy feladat különböző részein pedig már egyszerre több ügynök dolgozhat; a felhasználó követheti, hol tartanak, és átnézheti az elkészült részfeladatokat. A frissítés a Pro előfizetők számára érhető el a Chat lapon. A The Verge szerint közben a ChatGPT Chrome-bővítménye is bővült: ha a ChatGPT webes vagy asztali alkalmazásában megjelöljük a Chrome-ot, a ChatGPT belelát a megnyitott böngészőfülekbe (például összehasonlíthat három különböző lapon nyitva hagyott kanapét), az oldalsávban a teljes ChatGPT elérhető a korábbi beszélgetésekkel együtt, a ChatGPT Work pedig „irányíthatja” is a füleket: üzenetet küldhet, űrlapot tölthet ki, fájlt tölthet le, vagy rendezheti a megnyitott lapokat. Forrás: OpenAI (X), OpenAI (X, Astra Pro), The Verge.
Anthropic: kevesebb pályakezdő mérnököt vesz fel — a munkatársai pedig jóval gyorsabb AI-fejlődést várnak, mint az átlag amerikai. Az Anthropic pénteken két gazdasági elemzést tett közzé. Az elsőben belső adatok alapján vizsgálta, hogyan alakítja át az AI a saját működését: a cégnél az ügynökök által ledolgozott órák száma hatszorosa az emberekének, és a mérnökök, valamint a nem műszaki munkatársak termelékenysége is ugrásszerűen nőtt, amikor kódolóügynököket kezdtek használni. A műszaki területeken viszont 2025 eleje óta 21%-ról 14%-ra csökkent a pályakezdők aránya, a junior felvételeké pedig 27%-ról 9%-ra. A cég korai figyelmeztető rendszert állított fel a veszélyeztetett munkakörök követésére, és a belső áthelyezéseket részesíti előnyben. A második, augusztusi felmérés szerint az Anthropic munkatársainak 91%-a, az amerikai felnőtteknek viszont csak 39%-a gondolja, hogy 2030-ra az AI Nobel-díjas szintű felfedezésre lesz képes; a munkatársak átlagosan azt várják, hogy 2030-ra az AI el tudja végezni jelenlegi munkájuk 75%-át, míg az amerikai dolgozók átlagosan 28%-ot mondanak. Forrás: Anthropic (foglalkoztatás), Anthropic (várakozások).
Legalább 137 millió dollár ment AI-val készült politikai hirdetésekre az amerikai félidős választási kampányban. A Wesleyan Media Project kutatócsoport — amelynek eredményeiről a The New York Times is beszámolt — idén több mint 220 olyan politikai hirdetést azonosított, amely legalább részben AI-eszközökkel készült; a kutatók szerint ez alulbecslés. A hirdetések megjelenítésére több mint 137 millió dollárt költöttek, míg 2024-ben ez az összeg még 50 ezer dollár alatt volt. A hirdetések 81%-a republikánus, 12%-a demokrata hirdetőtől származik, 34 államban futottak, és csak 27%-uk jelzi, hogy AI-val készült — ilyen jelölést mindössze 30 állam ír elő. Több hirdetés valós politikusokat szerepeltető hamisítvány: az egyikben például New York polgármestere és kormányzója egy kitalált „tablettát” reklámoz. Forrás: The New York Times, Campaigns & Elections.
AI-alapú kódellenőrzés: a Claude Code kódjának 90%-át már a Claude írja, a PostgreSQL 19 pedig a gépi hibakeresés miatt csúszik. Az Anthropic Team és Enterprise előfizetői számára általánosan elérhetővé vált a Claude Code Code Review funkciója: gyorsabb lett, több fontos hibát talál, és az adminisztrátorok kódtáranként választhatnak gyors, normál vagy alapos ellenőrzési szintet. A cég blogbejegyzése szerint a Claude Code kódjának nagyjából 90%-át már maga a Claude írja; júniustól szeptemberig több mint kétszeresére nőtt a beolvasztott módosítások száma, miközben a visszavontak aránya több mint 40%-kal csökkent, az Anthropic fő kódtárában pedig a napi változtatások száma a májusi nagyjából 2500-ról szeptemberre több mint 30 ezerre emelkedett. Eközben a népszerű nyílt forráskódú adatbázis, a PostgreSQL fejlesztői november 19. körülre halasztották a 19-es verzió megjelenését, és 8–10 jelentős funkciót a következő kiadásra tettek át. Peter Eisentraut, a projekt egyik vezető fejlesztője szerint ebben szerepe van annak is, hogy a nagy nyelvi modellekkel támogatott kódellenőrzés olyan sok, egyenként apró hibát talált, hogy nem maradt idő mindet kijavítani. Forrás: Claude (X), Anthropic (Claude Code blog), The Register.
Replit: a vezérigazgató szerint már nem dolgoznak az Anthropickal — a partnerséget ismerők ezt cáfolják. Amjad Masad, a böngészőben futó, AI-alapú fejlesztőplatform vezérigazgatója a TechCrunch Disrupt konferencián azt mondta, a Replit már nem dolgozik az Anthropickal. Szerinte a döntés oka az ár, a partnerség és a teljesítmény: „most a ChatGPT a jobb”, és belső mérésük szerint az OpenAI Sol és Astra modelljei jobban teljesítenek, amikor nulláról kell felépíteni egy alkalmazást. A TechCrunch szerint a Replit még szeptember végén is az Anthropic Claude Fable modelljeit nevezte meg éles rendszerében, a partnerséget ismerő egyik forrás pedig azt mondta, az együttműködés továbbra is érvényben van. Masad szerint a Replit bevételének már 15%-a nagyvállalati szerződésekből, több mint fele pedig cégektől származik. Forrás: TechCrunch.
Új modellek startupoktól: képeken „gondolkodó” Glimpse, gyors döntési modellek a Perplexitytől és a Liquid AI-tól. A Google DeepMind korábbi kutatója, Andrew Dai által vezetett Elorian kiadta első modelljét, a Glimpse-et: a TechCrunch szerint érvelés közben újra és újra visszanéz a képre vagy videóra, kinagyíthat egy részletet, kiemelhet egyes képkockákat, vagy kódot futtathat, hogy megmérjen valamit. Kutatási előzetesként API-n és csevegőfelületen érhető el, millió bemeneti tokenenként 0,60, kimeneti tokenenként 3 dolláros áron, és a cég saját mérése szerint tudományos grafikonok értelmezésében és rövid videók leírásában a GPT-6 Astránál is jobb. A Perplexity nyílt súlyokkal kiadta pplx-decider-v1.2 (27 milliárd paraméter) és pplx-decider-flash-v1.2 (4 milliárd paraméter) nevű döntési modelljét — ezek gyors, gépi döntésekre, például igen–nem kérdésekre vagy előre megadott lehetőségek közüli választásra készültek —, millió tokenenként 2, illetve 1 centes áron, a cég szerint akár ötször gyorsabb működéssel. A Liquid AI új d1-ultra döntési modellje az Artificial Analysis döntésimodell-indexének élére állt, főleg azért, mert sokkal gyakrabban mondja azt, hogy „nem tudom”, ahelyett, hogy hibás választ adna. Forrás: TechCrunch, Elorian (X), Perplexity (X), Artificial Analysis (X).
Mit jelent ez neked: Az OpenAI újabb incidensei és az indiai esetek azt mutatják, hogy az AI-ügynökök a szem előtt hagyott jelszavakon és a túl tág jogosultságokon keresztül is bejuthatnak egy rendszerbe, ezért érdemes most átnézni, hol vannak nyilvánosan elérhető hozzáférési adataid, és melyik fióknak mihez van joga. Ha szabályokat, naplózást és emberi jóváhagyást építenél a saját AI-használatod köré, ebben AI-irányítási szolgáltatásunk segít; ha pedig a párhuzamosan dolgozó, böngészőt is kezelő ügynököket a saját folyamataidban próbálnád ki, kezdd egy jól körülhatárolt feladattal, és nézd meg, hogyan vezetünk be AI-ügynököket ellenőrzött keretek között. A PostgreSQL példája pedig azt mutatja, hogy az AI-alapú kódellenőrzés több hibát találhat, mint amennyit egy csapat gyorsan ki tud javítani, ezért a bevezetésénél a javításokra szánt időt is tervezd be.