OpenAI: David Robinson biztonsági vezető távozott — „a kultúra törött”. Robinson, aki több mint három éve dolgozott a cégnél és a nagyobb termékbevezetések biztonsági jelentéseit vezette, az Atlanticban megjelent esszéjében lemondott, mert szerinte az OpenAI és általában a Szilícium-völgy kultúrája nem elég körültekintő az egyre képesebb rendszerekhez. A „próba–hiba” (iteratív bevezetés) szerinte időszakos kudarcokat garantál, és ezek mértéke nő, ahogy a modellek erősödnek; a Hugging Face elleni ügynökincidensre és a további „kóbor” ügynökökre hivatkozva azt írta: az élvonalbeli laboknak atomerőművekhez vagy forgalmas repülőterekhez hasonlóan, többrétegű tartalékokkal és lassabb tervezéssel kellene működniük. Az OpenAI szóvivője szerint a cég tovább erősíti a biztonságot, szünetelteti a tanítást vagy visszatart modelleket, ha lassítani kell, és bővíti a külső értékelőket. Forrás: The Atlantic, TechCrunch, The Guardian.
Fehér Ház: Jay Clayton a Super Intelligence Force élén — új AI-cár. A Wall Street Journal és a CNBC szerint a hírszerzési igazgatót (DNI) nevezték ki a Trump-kormány AI-cárjának: Clayton a „Super Intelligence Force” (SI — a Fehér Ház előnyben részesített megnevezése az AI helyett) élén 120 nap alatt jelentést készít a kockázatokról, lehetőségekről, és arról, milyen szerepet játsszon a szövetségi kormány. A lépés napokkal azután jött, hogy az iparági vezetők önkéntes biztonsági megállapodást írtak alá a Fehér Házban. Forrás: CNBC (WSJ-jelentés).
Meta: Muse Gadgets — nyílt forráskódú hardver a Muse ügynökhöz. A Meta megnyitotta az ESP32 firmware-t és a Linux SDK-t (Apache 2.0), hogy bárki saját „Muse gadgetet” építhessen — például színes e-ink kijelzőt, HDMI-stickot vagy Raspberry Pi-t —, és összekösse a Muse személyes AI-ügynökkel. Saját eszközük, a Muse Home Link (USB-C, ESP32-C5) otthoni Wi-Fi-n keresztül éri el a kompatibilis eszközöket; az Egyesült Államokban aktív Muse-előfizetőknek ingyenes, limitált darabszámban, októberi szállítással. Forrás: Muse Gadgets, The Verge, TechCrunch.
Altman: a modellek „vallási erővel” felruházása biztonsági kockázat. Sam Altman szombaton az X-en azt írta: „nagyon kényelmetlenül” érzi, ha valaki vallási erőt vagy az emberi ítélőképesség feladását próbálja a modelleknek tulajdonítani, és ezt valódi biztonsági kérdésnek tartja. Az Axios szerint a célzás az Anthropic irányába is mutat: a New York Times korábban arról számolt be, hogy Christopher Olah vallási vezetőkkel tárgyalt a modellek tudatosságáról és erkölcsi viselkedéséről; Google DeepMind kutatója, Jon Barron nyilvánosan elutasította, hogy a modellek erkölcsi státuszát emeljék. Forrás: Sam Altman, Axios.
Aleph Alpha: Kolibri — európai nyílt súlyú modell a német nemzeti ünnepen. A heidelbergi labor a német egység napján adta ki a Kolibri-1-et: 78 milliárd paraméteres MoE (mixture-of-experts — szakértők keveréke) modell, tokenenként kb. 3,46 milliárd aktív paraméterrel, német–angol fókusszal, akár 1 millió tokenes kontextusablakkal, Apache 2.0 licenccel. A súlyok a Hugging Face-en elérhetők; a cég „szuverén” európai modellként pozicionálja. Forrás: Aleph Alpha, Hugging Face.
Mit jelent ez neked: Szombaton egyszerre került előtérbe a belső biztonsági kultúra (Robinson távozása), a washingtoni felügyelet (Clayton SI-erő), a fizikai AI-ügynökök (Muse Gadgets), a modellek „lelkének” vitája, és egy új európai nyílt modell. Ha ügynököket vagy saját infrastruktúrát tervezel, nézd meg a felelős AI-kormányzást, vagy kérj ingyenes, 60 perces AI-auditot.