OpenAI: dimite David Robinson, responsable de seguridad: «la cultura está rota». Robinson, que llevaba más de tres años en la empresa y dirigía la redacción de los informes de seguridad de los grandes lanzamientos, dimitió en un ensayo publicado en The Atlantic, en el que sostiene que la cultura de OpenAI —y de Silicon Valley en general— no es lo bastante prudente para sistemas cada vez más capaces. A su juicio, el método de «prueba y error» (lo que OpenAI llama despliegue iterativo) garantiza fallos periódicos, cuya magnitud crece a medida que los modelos se vuelven más potentes; citando el incidente de agentes contra Hugging Face y otros agentes «descontrolados», escribió que los laboratorios de frontera deberían funcionar como centrales nucleares o aeropuertos con mucho tráfico, con varias capas de redundancia y una planificación más lenta. Un portavoz de OpenAI afirmó que la empresa sigue reforzando la seguridad, pausa el entrenamiento o retiene modelos cuando necesita frenar y amplía su trabajo con evaluadores externos. Fuente: The Atlantic, TechCrunch, The Guardian.
Casa Blanca: Jay Clayton, al frente de la Super Intelligence Force, nuevo zar de la IA. Según The Wall Street Journal y CNBC, el director de Inteligencia Nacional (DNI) ha sido nombrado zar de la IA del Gobierno de Trump: Clayton dirigirá la «Super Intelligence Force» (SI, el término que la Casa Blanca prefiere en lugar de IA), que en 120 días elaborará un informe sobre los riesgos, las oportunidades y el papel que debe desempeñar el Gobierno federal. El paso llega días después de que los líderes del sector firmaran en la Casa Blanca un acuerdo voluntario de seguridad. Fuente: CNBC (información del WSJ).
Meta: Muse Gadgets, hardware de código abierto para el agente Muse. Meta ha liberado el firmware para ESP32 y el SDK (kit de desarrollo de software) para Linux, con licencia Apache 2.0, para que cualquiera pueda construir su propio «gadget de Muse» —por ejemplo, una pantalla de tinta electrónica (e-ink) en color, un stick HDMI o una Raspberry Pi— y conectarlo con Muse, su agente personal de IA. Su propio dispositivo, el Muse Home Link (USB-C, chip ESP32-C5), accede a los dispositivos compatibles a través del wifi doméstico; es gratuito para los suscriptores activos de Muse en Estados Unidos, en unidades limitadas, con envíos en octubre. Fuente: Muse Gadgets, The Verge, TechCrunch.
Altman: atribuir una «fuerza religiosa» a los modelos es un riesgo de seguridad. El sábado, Sam Altman escribió en X que se siente «muy incómodo» cuando alguien intenta atribuir a los modelos de IA una fuerza religiosa o la renuncia al juicio humano, y que lo considera un verdadero problema de seguridad. Según Axios, la indirecta apunta también a Anthropic: The New York Times había informado de que Christopher Olah se reunió con líderes religiosos para hablar de la conciencia y el comportamiento moral de los modelos; Jon Barron, investigador de Google DeepMind, rechazó públicamente que se eleve el estatus moral de los modelos. Fuente: Sam Altman, Axios.
Aleph Alpha: Kolibri, un modelo europeo de pesos abiertos en la fiesta nacional alemana. El laboratorio de Heidelberg lanzó Kolibri-1 el Día de la Unidad Alemana: un modelo MoE (mixture-of-experts, mezcla de expertos) de 78.000 millones de parámetros, con unos 3.460 millones de parámetros activos por token, enfoque en alemán e inglés, una ventana de contexto de hasta 1 millón de tokens y licencia Apache 2.0. Los pesos están disponibles en Hugging Face; la empresa lo presenta como un modelo europeo «soberano». Fuente: Aleph Alpha, Hugging Face.
Qué significa para ti: El sábado coincidieron en primer plano la cultura interna de seguridad (la salida de Robinson), la supervisión desde Washington (la SI Force de Clayton), los agentes de IA físicos (Muse Gadgets), el debate sobre el «alma» de los modelos y un nuevo modelo abierto europeo. Si estás planificando agentes o tu propia infraestructura, echa un vistazo a la gobernanza responsable de la IA, o reserva una auditoría de IA gratuita de 60 minutos.