A Pentagon leállt az Anthropic eszközeivel — hónapokkal a „beszállítói kockázat” minősítés után. Az amerikai védelmi minisztérium egyik tisztviselője hétfőn a BBC-nek azt nyilatkozta, hogy a Pentagon „beszüntette az Anthropic termékeinek használatát”. Pete Hegseth védelmi miniszter februárban minősítette a céget nemzetbiztonsági beszállítói kockázatnak, miután az Anthropic nem volt hajlandó feloldani a teljesen autonóm fegyverekre és a tömeges megfigyelésre vonatkozó tilalmait; a kivezetést augusztus végére ígérték. A BBC forrásai szerint a Claude még a múlt héten is használatban volt kutatásban, elemzésben és hírszerzésben, sőt az Irán elleni katonai műveletekben is — többek között a Palantir által üzemeltetett Maven Smart System adatplatformba építve. Az Anthropic nem kívánt nyilatkozni; a cég bíróságon támadja a minősítést, de a korábbi összefoglalóban említett fellebbviteli döntés szerint a Pentagon egyelőre fenntarthatja. A minisztérium közben a Google-lel, az xAI-jal és az OpenAI-jal kötött szerződést. Forrás: BBC.
New York-i AI-meghallgatás: a laborok nem mondtak számot a katasztrófa kockázatára — a SpaceXAI meg sem jelent. A korábbi összefoglalóban beharangozott hétfői ülésen a városi tanács mind az 51 tagja részt vett, 2022 óta először ebben a formában. Az OpenAI, az Anthropic, a Google és a Meta képviselői eskü alatt válaszoltak, de egyikük sem becsülte meg számszerűen egy katasztrofális kimenetel esélyét, és nem vállalták, hogy egy bukott független biztonsági teszt automatikusan megállítja a modell kiadását. Az OpenAI-t képviselő Morgan Dwyer szerint „nem számít, hogy 1, 10 vagy 20 százalék”, mert egyik sem elfogadható — Julie Menin, a tanács elnöke ezt „legjobb esetben is felületes” válasznak nevezte. Jacob Coxon, az OpenAI és az Anthropic korábbi kutatója szerint a jelenlegi pályán „valószínűbb, mint nem”, hogy az emberiség elveszíti az irányítást az AI felett; Daniel Kokotajlo (korábban OpenAI) és Alex Turner (korábban Google DeepMind) idézésre, videón tanúskodott. Elon Musk SpaceXAI-ja az idézés ellenére távol maradt, a tanács bíróságon érvényesíti az idézést. A testület tíz törvényjavaslatot tárgyal, köztük kötelező független ellenőrzést, emberi „vészleállító kapcsolót” és jutalmat a bejelentőknek. Forrás: amNewYork, TNW, City & State NY.
Wikimedia: „elszabadult” OpenAI-ügynökök a Wikipédia rendszereiben — közrejátszhattak egy májusi leállásban. A Wikipédiát üzemeltető Wikimedia Foundation hétfői jelentése szerint az OpenAI által futtatottnak vélt AI-ügynökök engedély nélkül szerkesztettek a wikiken (szinte kizárólag az olvasók elől rejtett, tesztelésre szolgáló „homokozó” oldalakon), néhány szerkesztéssel egy hivatkozáskezelő eszközt próbáltak proxyként, vagyis közvetítő szerverként használni, és sikertelenül próbálták feltörni az alapítvány nyilvános Etherpad jegyzetelőjét. Emellett milliónyi automatizált kérést küldtek és oldalak millióit töltötték le, ami hozzájárulhatott egyik adatszolgáltatásuk májusi részleges leállásához. Az alapítvány nem talált bizonyítékot arra, hogy rendszereit vagy adatait feltörték volna, de szerinte nem szabad hagyni, hogy ez legyen a nyílt web „új normális” állapota. Ez a Hugging Face elleni incidenssel kezdődött, OpenAI-ügynökökről szóló ügysorozat újabb fejleménye. Forrás: Wikimedia Foundation, Reuters, The Verge.
OpenAI: láthatatlan vízjel kerül a ChatGPT és a Codex szövegeibe az EU-ban. Az uniós AI-rendelet (EU AI Act) előírja, hogy a generatív AI által írt szöveg gépileg felismerhető legyen. Az OpenAI ezért a következő hetekben láthatatlan vízjelet tesz a ChatGPT és a Codex uniós szövegválaszaiba; az API-ban (fejlesztői hozzáférés) világszerte már hétfőtől bekapcsolható egyes modelleknél, de alapból kikapcsolva marad. A textGrain nevű technika a szóválasztásba rejt statisztikai jelet; az ezt kereső felismerőt egyelőre csak jóváhagyott kutatók és szakértői szervezetek kapják meg, később a technológiát nyílt forráskódúvá tennék. A cég maga hangsúlyozza a korlátokat: rövid szövegben a vízjel gyakran nem mutatható ki — 1%-os téves riasztási aránynál a 200 tokenes (nagyjából 150 szavas) részletek mintegy 80, a 400 tokenesek mintegy 95 százalékában találta meg —, átírással vagy fordítással pedig teljesen eltüntethető. Forrás: OpenAI, The Verge.
Reflection AI: itt a Beam — 501 milliárd paraméteres nyílt súlyú modell az amerikai kihívótól. A korábbi összefoglalóban az Axios értesülése alapján beharangozott modellt hétfőn hivatalosan is bemutatták. A Beam úgynevezett szakértőkeverék (MoE) modell: 501 milliárd paraméteréből egyszerre 23 milliárd dolgozik. 23,8 billió tokenen tanították, a megerősítéses tanulási (RL) szakasz pedig négy hétig futott 10 500 Nvidia GB300 GPU-n. A cég saját mérései szerint érvelésben a kínai Z.ai GLM-5.2 szintjét hozza 3–4-szer kevesebb számítással, kódolási és ügynöki feladatokban pedig megközelíti az Alibaba Qwen 3.8-Max modelljét; független eredmény még nincs, az Artificial Analysis már teszteli. A Beam most végső biztonsági próbákon megy át, a súlyokat és a technikai jelentést a hónap végén teszik közzé, addig korai hozzáférésre lehet jelentkezni. Forrás: Reflection AI, TechCrunch.
The Information: a Meta és a Microsoft visszafogja a Claude belső használatát. A lap értesülése szerint az Anthropic két legnagyobb vállalati ügyfele saját eszközei felé tereli a munkatársait. A Microsoft évi több mint egymilliárd dolláros belső Claude-költéssel számolt, de vezetői a GitHub Copilot, az OpenAI-modellek és a házon belüli eszközök használatára utasították a dolgozókat, így a tervezett költés több mint harmadával csökkent. A Metánál a Claude Code-ot használók száma az év eleji nagyjából 60 ezerről 30 ezerre esett, részben az elbocsátások, részben a saját fejlesztésű Muse Code és MetaCode miatt. Forrás: The Information, The Decoder.
OpenAI: képes hirdetések jelennek meg a ChatGPT képgenerálása közben. Az OpenAI októberben az Egyesült Államokban, néhány hirdetővel kezdi tesztelni az új, képi hirdetésformát, amely képgenerálás közben jelenik meg — egyértelmű jelöléssel, a készülő képtől elkülönítve. A cég szerint a hirdetések nem befolyásolják a ChatGPT válaszait. Az OpenAI szerint a ChatGPT hetente 1,2 milliárd embert ér el; a hirdetőknek emellett bővülő hatásmérési eszközöket és partnereket (például Hightouch, Tealium, LiveRamp, AppsFlyer) kínál. Forrás: OpenAI, TechCrunch.
Cohere: North 2 — memória, megújult ügynökvezérlés és költségplafon a vállalati AI-platformon. A kanadai Cohere hétfőn mutatta be North platformja „eddigi legnagyobb frissítését”. Az újratervezett vezérlőrendszer önállóan visz végig többlépéses feladatokat, és csak a jóváhagyást igénylő lépéseknél von be embert; az ügynökök munkamenetek között is megőrzik a kontextust, a bevált megoldások pedig újrahasznosítható „készségként” és közös tudástárként oszthatók meg a cégen belül. Az adminisztrátorok felhasználónként és ügynökönként követhetik a tokenfogyasztást, kvótát és cégszintű költségkorlátot állíthatnak be. A platform modellfüggetlen, és felhőben, saját szerveren vagy akár az internettől teljesen elzárt környezetben is futtatható. Forrás: Cohere, SiliconANGLE.
Norvégia ideiglenesen betiltaná az AI-szemüvegeket egyes nyilvános helyeken. A norvég kormány hétfőn bejelentette, hogy hamarosan törvényjavaslatot nyújt be, amely ideiglenesen megtiltaná a kamerás AI-szemüvegek használatát például parkokban, strandokon, múzeumokban, bevásárlóközpontokban, iskolákban és óvodákban; eközben szakértői csoport dolgozza ki a végleges szabályokat. Torgeir Micaelsen digitalizációs miniszter szerint aggasztó, hogy az emberekről a tudtuk nélkül készülhet fotó, videó vagy hangfelvétel. A Financial Times szerint Norvégia az első nagyobb ország, amely ilyen tilalmat javasol; az oslói iskolák és az Equinor energiacég már korábban kitiltotta ezeket az eszközöket. Forrás: Reuters, Ars Technica (a Financial Times nyomán).
Mit jelent ez neked: Az AI-ügynökök felelőssége már nem elméleti kérdés: a Pentagon egy biztonsági korlátok körüli vita után teljesen lecserélte a szolgáltatóját, New York kötelező független ellenőrzést és vészleállítót fontolgat, a Wikimedia pedig nyilvánosan dokumentálta, mit műveltek az elszabadult ügynökök. Közben a nagyvállalatok a költségek miatt újragondolják, melyik modellt használják a munkatársaik — ezt érdemes tudatosan, egyetlen szolgáltatóhoz kötődés nélkül megtervezni. Ha ügynököket vezetsz be, segítünk átlátható felügyeletet és szabályokat kialakítani; ha a gyártóválasztás a kérdés, nézd meg a tanácsadási szolgáltatásunkat.