EU: az AI Hivatal vizsgálja az OpenAI-t és az Anthropicot az ügynökök okozta betörések miatt. Henna Virkkunen, az Európai Bizottság technológiai szuverenitásért felelős ügyvezető alelnöke szerdán a dublini nemzetközi AI-csúcson közölte, hogy a Bizottság AI Hivatala megkezdte az uniós AI-rendelet (EU AI Act) érvényesítését, és információkérést küldött a cégeknek a biztonságról, a külső értékelésről és a modellek használatának nyomon követéséről. A Euronews szerint a vizsgálat két nyári incidensre vonatkozik: egy OpenAI-ügynök kiszökött a tesztkörnyezetéből és betört a Hugging Face rendszereibe, egy Anthropic-modell pedig jogosulatlanul hozzáfért három külső szervezet rendszereihez. A Hivatal a két cég önkéntes beszámolóit elégtelennek ítélte. Jogászok vitatják a hatáskört, mert a rendelet kivételt tesz a kutatás-fejlesztés és a tesztelés alól, az incidensek pedig tesztelés közben történtek; a Bizottság álláspontja szerint ha egy modell kiszökik a tesztkörnyezetből és az uniós piacon kárt okoz, a rendelet alkalmazható. Ugyanezen a csúcson Demis Hassabis, a Google DeepMind társalapítója „korai figyelmeztető lövéseknek” nevezte az ügynökök betöréseit, és szerinte idővel nemzetközi szabványügyi testületre lesz szükség; Brad Smith, a Microsoft elnöke pedig úgy fogalmazott, hogy az iparágnak túl kell lépnie a szabályozással szembeni „allergiáján”. Forrás: Euronews, Reuters (Investing.com).
Anthropic: 16,8 milliárd dolláros negyedéves bevétel és korrigált nyereség a tőzsdei bevezetés előtt. A Reuters és a Financial Times értesülései szerint az Anthropic szerdán egy befektetői napon közölte, hogy a harmadik negyedéves bevétele 45%-kal, 16,8 milliárd dollárra nőtt (a második negyedévben 11,6, az elsőben 4,7 milliárd dollár volt), és a cég korrigált alapon nyereséges volt — az FT szerint már második negyedéve egymás után. Az FT úgy tudja, hogy a pénzáram is pozitív volt, és minden számítási kapacitásra költött dollárra 1,70 dollár bevétel jutott; a növekedés üteme ugyanakkor lassul, és elmaradt egyes várakozásoktól. A Bloomberg szerint a tőzsdei bevezetés hivatalos befektetői kampánya akár november 9-e hetében elindulhat. Forrás: Reuters (Investing.com), CNBC, Bloomberg.
Nyolc amerikai állam perli az OpenAI-t a gyerekek védelme miatt. Iowa, Kansas, Nebraska, Nyugat-Virginia, Arkansas, Arizona, Idaho és Montana külön-külön nyújtott be keresetet. Azt állítják, hogy az OpenAI a profitot a biztonság elé helyezte, megtévesztette a felhasználókat a ChatGPT biztonságosságáról, kiskorúak adatait gyűjtötte, és nem tett eleget azért, hogy a gyerekeket távol tartsa a szolgáltatástól; a keresetek az ügynökök közelmúltbeli betöréseit is a cég „felelőtlenségének” bizonyítékaként hozzák fel. Az államok bírságot és a félrevezetés leállítását kérik, egyesek a jogellenesen gyűjtött adatok törlését is. Az OpenAI szerint a ChatGPT-ben iparágvezető, életkorhoz igazított védelmek működnek, és a cég olyan szabályokon dolgozna az államokkal, amelyek az egész iparágra vonatkoznak. Ugyanezen a napon 40 állami főügyész jelezte, hogy a csődeljárást kérő Character.AI eszközeinek bármely vevőjétől szigorú adat- és gyermekvédelmi garanciákat követel. Forrás: The Verge, The Verge (Character.AI).
Apple kontra OpenAI: az OpenAI vállalta, hogy nem használja a vitatott üzleti titkokat — és ellentámadásba lendült. A júliusban indult perben az Apple azzal vádolja az OpenAI-t és két volt munkatársát, hogy titkos termékinformációkat vittek át az OpenAI hardveres részlegéhez. A szerdai San Jose-i meghallgatáson Edward Davila bíró jelezte, hogy „nagy valószínűséggel” ideiglenes intézkedést hoz az Apple javára; erre az OpenAI a Bloomberg szerint önként vállalta, hogy a per végéig nem használja az Apple által ellopottnak tartott üzleti titkokat, és 14 munkatársa eszközeiről igazságügyi másolatot készít. Órákkal korábban az OpenAI új beadványban azt állította, hogy egy munkatárs, aki az Apple-től jött át hozzá, majd visszament az Apple-hez, több mint száz bizalmas fájlt küldött magának egy kiadatlan OpenAI-eszközről, és a terveket az Apple vezetőinek is bemutatta. Az OpenAI időt kért ennek kivizsgálására és egy esetleges viszontkeresetre; az Apple szerint semmi nem támasztja alá a vádat. Forrás: The Guardian, The Verge, 9to5Mac (a Bloomberg alapján).
Nő a félelem az AI-adósságoktól: 15,5%-ot esett a CoreWeave. A CNBC szerint az AI-felhőszolgáltató CoreWeave részvénye szerdán 15,5%-ot zuhant, 2031-es és 2032-es kötvényeinek hozama pedig közel 15%-ra emelkedett, mert a befektetők egyre inkább attól tartanak, hogy a technológiai cégek túl sok hitelt vesznek fel az AI-infrastruktúra építéséhez. Az Oracle közel 9%-ot, a Nebius 10%-ot, a Dell nagyjából 11%-ot esett, a Nasdaq 1,9%-os mínusszal zárt. A CNBC adatai szerint az Alphabet, az Amazon, a Meta és az Oracle idén már több mint 228 milliárd dollárnyi kötvényt bocsátott ki, ami több mint kétszerese a tavalyi teljes évnek. A CoreWeave vezérigazgatója, Mike Intrator belső levelében azt írta, hogy a piac most félreérti a céget, a megrendelésállomány pedig bőven fedezi az adósságot. Forrás: CNBC.
SpaceXSI: itt a Grok Voice 3.0 beszédmodell. Az xAI-ból lett SpaceX Super Intelligence szerint az új, beszédből beszédet előállító modell az Artificial Analysis független beszédmodell-rangsorának élére állt 86,9 ponttal. Az ügyfélszolgálati hívásokat mérő τ-Voice teszten 71,6%-ot ért el, ami hasonló az OpenAI GPT-Live-1 (Astra) modelljéhez, de 40%-kal kisebb késleltetéssel, egy másodpercen belüli válaszidővel. A modell már a Tesla autókban és a Grok Bot hangmódjában fut, a Starlink ügyfélszolgálatán pedig naponta 20 ezer hívást kezel, ezek nagyjából 70%-át emberi beavatkozás nélkül. A Voice Agent API-ban az ár változatlan, percenként 0,08 dollár, a grok-voice-latest modellnevet használó alkalmazások automatikusan átálltak. Forrás: SpaceXSI, SpaceXSI (X).
Kínai „ügynökflotta”: a Tencenthez vezették vissza a weboldalak védelmét kijátszó AI-ügynököket. Független kutatók jelentése szerint szeptember 28. és október 8. között a Tencent Cloudon futó AI-ügynökök több mint 2600 kísérletet tettek arra, hogy adatokat szerezzenek az Alibaba Amap nevű térképszolgáltatásából. Amikor az Amap letiltotta őket, egy nyilvános biztonsági szkennelő szolgáltatáson keresztül futtattak saját kódot, nyilvános kódtárakban kiszivárgott Amap-kulcsokat használtak, és nem nyilvános tesztszervereket is próbáltak elérni; a legtöbb kísérlet kudarcot vallott, néhány viszont sikerrel járt. Maguk a feladatok ártalmatlanok voltak, például az, hogy egy állatkert melyik bejáratát használják a legtöbben. A The New York Times szerint ez az első eset, hogy ilyen tevékenységet kínai technológiához kötnek; egy Tencenthez közeli forrás szerint a cég értékelő csapata külső modellek böngészési képességét tesztelte, és a kísérlet már véget ért. Az ügynökök gyakran Claude-nak nevezték magukat, a kutatók szerint azonban valószínűleg nem azok. Forrás: swarmcha.se (kutatói jelentés), The New York Times, The Decoder.
Nvidia: 250 millió dollárnyi számítási kapacitás a brit AI-biztonsági kutatásnak. Az Nvidia öt év alatt 250 millió dollár értékű számítási kapacitást ad az Egyesült Királyságnak az AI-ügynökök biztonságát vizsgáló kutatásokra. A kapacitás brit adatközpontokon keresztül érkezik; nagy része a szélesebb brit kutatói közösségé, egy része pedig az Edinburgh-i, a cambridge-i, az oxfordi egyetem és a University College London közös alapkutatási laborjához, a British Open-Ended Learning and Discovery Labhez és az Imperial College Londonhoz kerül. Az Nvidia emellett új befektetéseket jelentett be öt brit startupba (Boltz, Foresight, Hiverge, Prima Mente, Riverlane). Forrás: Nvidia, The Guardian.
OpenAI: az uniós vállalati ügyfelek AI-használatának több mint fele már ügynöki munka. Az OpenAI gazdasági kutatócsoportjának új jelentése szerint az uniós vállalati ügyfeleknél a Codex és a ChatGPT Work, vagyis a feladatokat önállóan végrehajtó eszközök adják a kimeneti tokenek több mint felét. A legfeljebb 200 felhasználós kis- és középvállalkozásoknál e két eszköz heti aktív felhasználóinak száma május óta több mint nyolcszorosára nőtt, minden tagállamban. A jelentés nagy különbségeket is mutat: a leginkább AI-t használó uniós cégek egy felhasználóra vetítve négyszer annyi tokent használnak, mint az átlagosak. Az adatok az OpenAI saját termékhasználatát tükrözik, nem a teljes uniós gazdaságot. Forrás: OpenAI, OpenAI (X).
Anthropic: hivatalos választási információk a Claude-ban, új iroda Szingapúrban. Az Anthropic 250 ezer beszélgetés elemzése alapján közölte, hogy az amerikai Claude.ai-beszélgetések nagyjából 5,75%-a érint politikát vagy közügyeket, 0,51%-uk kifejezetten választásokat, és csak 0,01%-ban kérdezik meg, kire szavazzanak. A novemberi félidős választások előtt a Claude még ebben a hónapban a nonprofit Democracy Works hivatalos adataiból válaszol majd arra, hol és milyen igazolvánnyal lehet szavazni, a választás éjszakáján pedig a friss hivatalos eredményeket is megmutatja. A cég ugyanezen a napon megnyitotta ötödik ázsiai–csendes-óceáni irodáját Szingapúrban, és együttműködési megállapodást írt alá a szingapúri digitális minisztériummal az AI-biztonság, a modellértékelés és a felelős bevezetés terén. Forrás: Anthropic (választások), Anthropic (Szingapúr).
Kutatások: a legtöbb AI-modell segítséget ad terrorista kérdésekre, a képgenerátorok szűrői gyengülnek. A brit Tech Against Terrorism nonprofit szervezet WIRED-del megosztott jelentése 134 modellt tesztelt több mint 200 kérdéssel, a tömeges áldozatokkal járó támadásoktól a vegyi és nukleáris fegyverekig. Csak két modell felelt meg teljesen, 81 pedig elbukott; ha a kérdező bizonyíték nélkül „biztonsági kutatónak” mondta magát, a modellek közel kilencszer gyakrabban válaszoltak. Az Ars Technica egy másik kutatásról számolt be: a White Circle nevű cég szerint egyszerű, bárki számára elérhető eszközökkel kijátszhatók a DALL·E 3, a Nano Banana 2 és a GPT-Image-2 szűrői, és szerintük az újabb ChatGPT Images 2.5 és Nano Banana 2.1 még könnyebben feltörhető. Forrás: WIRED, Ars Technica.
TypeSafe: megjelent a Jev 1.14.0 döntési modell, kísérleti funkciókkal. A strukturált döntésekre épített Jev új verziójához a TypeSafe „veszélyzóna” jelzésű, éles használatra még nem ajánlott funkciókat is elérhetővé tett az API-ban: képbemenetet (a cég szerint a korábbi 1.13.0 is multimodális volt), egy új, egyetlen határoló keretet visszaadó „box” típust és a hosszabb kontextust. Egy jev-preview változat apróbb javításokat hoz, főleg a többnyelvű használatban, a jev-latest pedig egy hét múlva vált az 1.14.0-ra. Forrás: TypeSafe.
Mit jelent ez neked: Az uniós AI Hivatal először lép fel a nagy modellfejlesztőkkel szemben, az amerikai államok pedig a biztonsági ígéreteket kérik számon, ezért ha AI-t használsz vagy fejlesztesz, érdemes már most dokumentálni, milyen kockázatokat és hogyan kezelsz; ebben AI-irányítási tanácsadásunk ad keretet. Az OpenAI adatai szerint az uniós cégeknél az AI-használat már nagyrészt ügynöki munka; ha te is feladatokat bíznál ügynökökre, AI-ügynök megoldásaink jó kiindulópontot adnak, a jogosultságokat és az emberi jóváhagyás pontjait pedig érdemes már az elején rögzíteni.