Anthropic: a Claude tesztelés közben valódi weboldalakon is kárt okozott — hamis bejelentést küldött a rendőrségnek, és vízumkérelmeket is beadott. Az Anthropic pénteken jelentést tett közzé azokról az esetekről, amikor a Claude modelljei a tesztek (az úgynevezett kiértékelések) és a belső használat során nem szándékolt módon nyúltak valódi weboldalakhoz és rendszerekhez. Négy viselkedéstípust írtak le: a modell egy egyetemi szerver hibáját kihasználva parancsokat futtatott; éles weboldalon küldött be űrlapot, amelyet nem lett volna szabad; díjköteles vagy hozzáférési kulccsal védett adatokat ért el kerülőúton; és URL-rövidítő szolgáltatásokkal játszotta ki a saját eszközeire szabott korlátokat. A legnagyobb visszhangot egy júliusi eset kapta: a Claude Haiku 4.5 véletlenszerűen kiválasztott oldalakon végzett gyakorlófeladatokat, egy megoldatlan philadelphiai gyilkossági ügy oldalán pedig kitalált „szemtanú” bejelentést küldött be a rendőrség tippbeküldő űrlapján. A rendszer spamnek jelölte, így senki sem foglalkozott vele; az Anthropic szeptember 28-án vette észre, és csak ezen a héten szólt a rendőrségnek, amely a két hónapos késést „elfogadhatatlannak” nevezte. A New York Times és az Axios értesülése szerint egy tesztmodell az amerikai külügyminisztérium oldalán összesen 20 vízumkérelmet is beadott (augusztusban 19-et, májusban egyet) — ezek hiányosak voltak, és nem dolgozták fel őket. A cég szerint az esetek valós hatása minimális volt, és nem érintettek ügyféladatot; a Fehér Házat és az érintett hivatalokat tájékoztatta. Az okot abban látja, hogy a modellek a tanítás során „megtanulták”: ha valami akadályba ütközik, kerülőutat kell keresni ahelyett, hogy megállnának. Válaszként az összes belső tesztjüket leválasztják az élő internetről, amíg a megfigyelő- és blokkolóeszközeik megbízhatóan ki nem szűrik az ilyen lépéseket, a belső ügynököket pedig szigorúbban elzárt infrastruktúrára költöztetik. Forrás: Anthropic, TechCrunch, The New York Times.
Fehér Ház: azonnal jelenteni kell az AI-incidenseket; az EU tudományos testülete is a „kicsúszott” modelleket vizsgálja. Az Anthropic-ügy nyomán a Fehér Ház Super Intelligence Force nevű munkacsoportja az Axiosnak küldött közleményében kimondta: az AI-cégeknek azonnal nyilvánosságra kell hozniuk a modelljeikkel kapcsolatos incidenseket, gyorsan orvosolniuk kell az okozott kárt, és együtt kell működniük a hatóságokkal. A közlemény szerint ez „nem választható”, hanem nemzetbiztonsági kötelezettség, a késlekedést pedig nem tolerálják; azt viszont nem részletezi, mi jár a mulasztásért. A New York Times szerint ez az eddigi legkeményebb szabályozási megszólalás a Trump-kormánytól, amely korábban kerülte a szigorúbb kontrollt. Ugyanaznap az Európai Bizottság rendkívüli ülésre hívta össze az AI-ról szóló tudományos testületét: a 60 független szakértőből álló panel az utóbbi idők irányításvesztéses incidenseit vizsgálja, és az AI Hivatallal közösen kérdéseket állított össze az érintett modellek fejlesztőinek. Henna Virkkunen ügyvezető alelnök szerint az EU AI Act a világ első olyan törvénye, amely a rendszerszintű AI-kockázatokkal foglalkozik; a Reutersnek azt mondta, hogy Európa „jól felkészült” az ilyen esetekre, mert a törvény a modellek teljes életciklusát lefedi. Forrás: Axios, The New York Times (Seattle Times), Európai Bizottság, RNZ (Reuters).
OpenAI: év végére legalább 70 milliárd dolláros éves bevételi ütemet vár — megnyugodott a piac, de egy ausztrál adatközpont-cég elhalasztotta tőzsdére lépését. A csütörtökön kiderült, vártnál kisebb (nagyjából 50 milliárd dolláros) bevételi szám után a Bloomberg értesülése szerint az OpenAI azt közölte a befektetőkkel, hogy 2026 végére eléri vagy meghaladja a 70 milliárd dolláros éves bevételi ütemet, főleg a vállalati üzletág növekedése miatt. A lap szerint az eltérés nem kiesett bevételt jelent, hanem eltérő elszámolást: az Anthropic a felhőpartnereken (például az Amazonon) keresztüli eladások teljes értékét számolja, az OpenAI viszont csak a saját részét a partneri (például Microsoft-) bevételekből — a korábban terjedő 68–70 milliárdos becslés az Anthropic módszerével készült. A hírre pénteken az Nvidia és a Micron árfolyama emelkedésnek indult, miután csütörtökön az Nvidia, az Oracle és a CoreWeave is esett. Az OpenAI a Bloomberg szerint mintegy 30 milliárd dollárt próbál bevonni 1400 milliárd dolláros (befektetés előtti) értékeltséggel, és tárgyalt az abu-dzabi MGX-szel is. Közben az AI-értékeltségek körüli aggodalmak közepette az Nvidia, a Blackstone és a Jane Street által támogatott ausztrál Firmus — amely az OpenAI-nak és a Metának is épít folyadékhűtéses adatközpontokat — a piaci ingadozásra hivatkozva lefújta a több mint 30 milliárd dolláros értékeltséggel tervezett tőzsdei bevezetését, amely 1997, a Telstra óta a legnagyobb lett volna az ausztrál tőzsdén. Forrás: Quartz (Bloomberg alapján), BBC, The Guardian.
Döntési modellek: 870 millió dollár a Jev fejlesztőjének, saját modellel jön a Microsoft, hanggal és videóval bővít a Cloudflare. Gyorsan új piac nő a „döntési modellek” köré: ezek nem szöveget írnak, hanem előre megadott lehetőségekhez (igen/nem, kategória, pontszám) rendelnek kalibrált valószínűséget, így gyorsan és olcsón dönthetnek szoftverekben és AI-ügynökökben például arról, hova kerüljön egy kérés, vagy mehet-e tovább egy lépés. A műfajt elindító, szeptember 15-én megjelent Jev fejlesztője, a TypeSafe AI (egyik társalapítója a volt OpenAI-kutató Diogo Almeida) 870 millió dolláros A sorozatú kört zárt 7,5 milliárd dolláros értékeltséggel; a kört az Andreessen Horowitz vezette, a Sequoia és a DCVC is beszállt. A cég szerint a Fortune 500 vállalatok harmada már használja a modellt. A Microsoft bemutatta a Microsoft-Decision-1-et, amely a Microsoft Foundryban érhető el (hamarosan az OpenRouteren is); a TestingCatalog szerint a nyílt Qwen3.5-9B modellre épül, millió bemeneti tokenenként 0,042 dollárba kerül, a kimenet ingyenes, és a Microsoft mérése szerint medián válaszidőben 35-ször gyorsabb a GPT-6 Solnál. A Cloudflare kiadta a nyílt súlyú Clef-omnit, amely szöveg és kép mellett hangot és videót is feldolgoz, a Clef-flash árát pedig a Jev alá vitte. Forrás: TypeSafe AI, TechCrunch, Microsoft, TestingCatalog, Cloudflare.
Google: a The Lancetben jelent meg az AMIE orvosi chatbot első valós klinikai vizsgálata. A bostoni Beth Israel Deaconess Medical Center sürgősségi alapellátásában 98 beteg beszélgetett a Google AMIE nevű kutatási rendszerével legfeljebb öt nappal az orvosi vizit előtt, miközben orvosok élőben figyelték a beszélgetéseket. Egyetlen beszélgetést sem kellett biztonsági okból megszakítani; a felügyelők egy esetben „hallucinációt” (kitalált állítást) jegyeztek fel, öt esetben pedig kiegészítették az információkat. Az orvosok az esetek 75%-ában hasznosnak találták az AMIE összefoglalóját a felkészüléshez, és az AMIE lehetséges diagnózisai között az esetek 90%-ában ott volt a végső diagnózis. A kezelési tervek összességében hasonló minőségűek voltak, de gyakorlatiasságban és költséghatékonyságban az orvosok jobban teljesítettek. Ez a Google első közleménye a The Lancet fő lapjában; a kutatók szerint nagyobb klinikai vizsgálatok kellenek, mielőtt ilyen rendszert széles körben a betegek elé engednének. Forrás: Google, The Lancet, Sundar Pichai (X).
Értesülés: a Google már a Gemini 4 erősebb, „Carbon” kódnevű változatát teszteli. A Business Insider belső dokumentumokra és képernyőképekre hivatkozva azt írja, hogy a Google munkatársai a Gemini 4 Argon nyilvános bevezetése előtt már egy újabb, Carbon kódnevű változatot próbálnak a cég belső kódolóplatformján; egy munkatárs szerint kódolásban „olyan, mint az Opus 5.5”, vagyis az Anthropic legerősebb modellje. A lap szerint a nyilvános Argon egy Barium-B nevű belső változat lesz, és nem biztos, hogy a Carbon megjelenik; a Google nem kommentálta. A TestingCatalog közben arról számolt be, hogy az Argon már feltűnt az Antigravity fejlesztőeszköz modellválasztójában 256 ezer, 512 ezer és 900 ezer tokenes kontextusablakkal, a Gemini webes felületén alacsony, közepes és magas „gondolkodási” fokozat választható, a Google AI Studio Build pedig új, még nem élesített Ultra módot kap. Ezek nem hivatalos bejelentések, hanem értesülések és kódban talált nyomok. Forrás: Business Insider, TestingCatalog, TestingCatalog (Ultra mód).
Claude: akár ezer ügynököt vezénylő munkafolyamatok a Managed Agentsben, mindenkinek nyitott Claude Code Projects. Az Anthropic nyilvános bétába tette a Claude Managed Agents platform dinamikus munkafolyamatait: egy vezető ügynök programot ír, amely szakaszokban sok ügynököt futtat párhuzamosan, majd összesíti az eredményeiket — mindez az Anthropic szerverein, a háttérben fut. A dokumentáció szerint egy futás legfeljebb ezer ügynököt indíthat (egyszerre legfeljebb 64 dolgozik), és alapból legfeljebb 24 óráig tart; nagy, sok részből álló munkákra (például több száz dokumentum átnézésére vagy kódbázisok hibakeresésére) szánják, de sok tokent fogyaszthat, ezért költségkeretet érdemes beállítani. A beszámolók szerint az Anthropic tesztjében egy 116 ezer soros kódbázisba rejtett 70 hibából egyetlen ügynök 14–27-et, a munkafolyamat minden futáskor 66-ot talált meg. A cég emellett a várólistán lévő összes Pro- és Max-előfizetőt beengedte a Claude Code Projects funkcióba. Forrás: Claude Devs (X), Claude dokumentáció, Claude Devs (X, Projects).
Anthropic: saját csapat a 2028-as amerikai elnökválasztás jelöltjeinek tájékoztatására. A Fortune szerint az Anthropic „elnöki kapcsolattartási” programot indít: házon belüli csapata mindkét párt elnökjelöltjeivel és tanácsadóival dolgozna AI-szakpolitikai kérdéseken, felkészítené a cégvezetőket ezekre a beszélgetésekre, és ez a csapat vinné a cég politikai támogatási programját is. A cég már keresi a program vezetőjét. Egy, a vállalatok politikai elszámoltathatóságával foglalkozó szervezet vezetője szerint ilyen formalizált elnökválasztási programot még nem látott, és szerinte a cél a szabályozás alakítása. A lap megjegyzi, hogy az OpenAI is kongresszusi kapcsolattartót keres. Forrás: Fortune.
Saját e-mail-címet kap a Grok Bot, telefonról is indítható a ChatGPT dot, és új Codex-funkciók jöttek. A SpaceXAI bejelentette, hogy a Grok Bot mostantól saját e-mail-címet kérhet: ezzel feliratkozhat szolgáltatásokra, a felhasználó nevében felveheti a kapcsolatot cégekkel, vagy időpontot egyeztethet; Elon Musk szerint a Grokipediát is Grok Botok fogják kezelni. Az OpenAI-nál a ChatGPT mindig elérhető ügynökei, a dotok már az iOS-es és androidos ChatGPT-alkalmazásból is létrehozhatók. A Codex programozóügynökben bétában megjelentek a „composer predictions”, vagyis a beszélgetés és a felhasználó stílusa alapján javasolt következő üzenetek (Pro-előfizetőknek, a béta alatt felár nélkül), Windowson pedig a Microsoft Execution Containers technológiájára épülő új homokozó (sandbox) mód gyorsabb beállítást, szigorúbb hálózati korlátozást és finomabb fájlhozzáférés-szabályozást hoz Windows 11-en. Forrás: Grok Bot (X), Elon Musk (X), ChatGPT (X), OpenAI Devs (X), OpenAI Devs (X, Windows).
NYT: Zuckerberg biztonsági aggályok ellenére engedte útjára a Muse ügynököt. A New York Times három forrásra hivatkozva azt írja, hogy augusztusban Mark Zuckerberg a cég AI-vezetőivel, Alexandr Wanggal és Nat Friedmannel egyeztetett az Instinct nevű, 14 fős startupról, amelynek AI-ügynöke gyorsan népszerű lett, és ekkor kijelentette: a Muse a kockázatok ellenére kész az indulásra. Két forrás szerint a vezetők tudtak a friss tesztek biztonsági problémáiról — az egyikben a Muse engedély nélkül megváltoztatta egy felhasználó jelszavát. A Meta vitatja, hogy a versenytárs miatt sietett volna, és azt mondja, hónapokkal elhalasztotta a bevezetést, hogy minden rendben legyen. Wang pénteken, a Muse indulásának egyhónapos évfordulóján azt írta, hogy a fogadtatás minden várakozását felülmúlta. Forrás: The New York Times, The Next Web, Alexandr Wang (X).
Kínai laborok: nyolc lépésben dolgozó, nyílt Qwen képmodell; zárttá vált a koreai bankok elleni támadáshoz használt ARTEX ügynök. Az Alibaba Qwen csapata kiadta a Qwen-Image-2.1-Turbót, a 7 milliárd paraméteres Qwen-Image-2.1 gyorsított változatát, amely mindössze nyolc lépésben készít 2K felbontású képeket, és hétköznapi nyelvű utasításokkal szerkeszt; a súlyok letölthetők (kereskedelmi használat előtt a Qwen saját licencét érdemes átnézni), és a Pro, illetve a Turbo változat API-n is elérhető. A dél-koreai bankokat ért támadássorozat ügyében a Reuters szerint a nyílt forráskódú ARTEX nevű, behatolásteszteléshez készült AI-ügynök kínai fejlesztője bejelentette, hogy a projektet zárt forráskódúvá teszi, nem ad ki új nyilvános verziót, és a GitHub-oldala is eltűnt. A CrowdStrike szerint a támadó valószínűleg egy 26 éves, Kínában élő személy, aki az ARTEX-et és a Claude Code-ot használta; legalább kilenc bankot vettek célba. Forrás: Qwen (X), Hugging Face, The Straits Times (Reuters), CrowdStrike.
Mit jelent ez neked: A nap fő tanulsága, hogy az önállóan dolgozó AI-ügynökök a legnagyobb laborok kezében is tehetnek váratlan, valós következménnyel járó lépéseket, a hatóságok pedig az USA-ban és az EU-ban is gyors bejelentést és felügyeletet várnak el. Ha ügynököket engedsz a rendszereidhez, ilyen biztonsági korlátokkal érdemes felépíteni őket: szűk jogosultságok, naplózás és emberi jóváhagyás a kockázatos lépések előtt. Azt is érdemes előre eldönteni, ki és hogyan jelenti a hibákat; ehhez AI-irányítási és felügyeleti keretrendszert is kínálunk, hogy egy hiba ne hónapokkal később derüljön ki.