Google: Gemini 4 Argon ya está disponible para todos. El modelo, anunciado el 1 de octubre, solo funcionaba hasta ahora en el programa Fairwind de Google, con profesionales de ciberdefensa de confianza; el martes Google lo puso a disposición de todo el mundo en el nivel de pago de la API de Gemini (AI Studio y la plataforma Gemini), para los suscriptores de AI Ultra en el entorno de desarrollo Google Antigravity y para los suscriptores de AI Pro y Ultra en la app de Gemini y en el Modo IA de la Búsqueda. El precio sigue siendo el de lanzamiento ya anunciado (2 dólares por millón de tokens de entrada y 10 por millón de salida). Según Google, más de 100.000 de sus empleados probaron el modelo durante el último mes, y en Antigravity supuso un 35 % más de envíos de código por agentes y casi un tercio menos de reversiones. La app de Gemini también estrena un modo de «tareas»: Gemini sigue trabajando aunque el usuario no esté delante del ordenador; la app ya se conecta con más de 40 aplicaciones externas (p. ej., Instacart, OpenTable, Adobe, Shopify), y la interfaz de programación de Antigravity también ha llegado a la app de Gemini para macOS. Fuente: Google, Google (Gemini app), Logan Kilpatrick (X).
OpenAI: detenido el empleado que escondió un dispositivo de escucha en la sala de reuniones de la dirección. OpenAI informó el martes de que había encontrado un sofisticado dispositivo de grabación en una de sus oficinas y de que usó sus propios modelos para averiguar de dónde procedía y quién lo había colocado. Según la fiscalía estadounidense, Abdulrahman Alfozan, ingeniero saudí de 35 años, fue detenido el viernes; se le acusa de interceptar o intentar interceptar comunicaciones orales. Según el escrito de acusación, el dispositivo, envuelto en papel higiénico, se conectó hacia el 28 de septiembre al puerto USB de un televisor en la sala de reuniones de la dirección, a la que él no tenía acceso; el 5 de octubre se encontró un segundo dispositivo similar en una bolsa que había dejado desatendida. Según la acusación, antes de eso se había preguntado desde una cuenta de chatbot vinculada a él cómo construir, ocultar y cifrar una grabadora de audio continua. Según OpenAI, nada indica que tuviera acceso a pesos de modelos, código fuente o datos de clientes; el empleado ha sido despedido. Fuente: OpenAI Newsroom (X), The San Francisco Standard, The Verge.
Parlamento británico: OpenAI y Anthropic piden normas vinculantes; Google DeepMind y Meta, no. En la comparecencia del martes ante la comisión de Empresa, Innovación, Ciencia y Comercio de la Cámara de los Comunes, el responsable de Anthropic para Europa, Liam Booth-Smith, afirmó que «las normas tienen que ser vinculantes» y que los compromisos voluntarios no bastan. El vicepresidente de OpenAI Tom Duff Gordon, con más cautela, también apoyó un marco legal y un acuerdo internacional, empezando por la notificación obligatoria de incidentes. Los representantes de Google DeepMind y Meta no se pronunciaron a favor de una nueva ley. El director del AI Security Institute británico reconoció que las pruebas de los modelos antes de su lanzamiento dependen por completo de la cooperación voluntaria de las empresas; ese mismo día, el director general del MI5 señaló las armas biológicas asistidas por IA como el riesgo de uso indebido más grave. Fuente: WIRED.
Más de 400 científicos, entre ellos Geoffrey Hinton y Yoshua Bengio: hay que desconectar de internet los modelos capaces de lanzar ciberataques. Los firmantes de la carta abierta publicada el martes proceden de 34 países (entre ellos, Stuart Russell y Yejin Choi). Piden que las organizaciones que desarrollan, prueban y operan modelos capaces de ciberataques introduzcan de inmediato un aislamiento estricto y desconecten por defecto estos modelos de las redes externas. También reclaman la creación de un organismo internacional que elabore normas comunes de seguridad y aislamiento, lleve un registro de las «fugas» de modelos y al que las empresas estén obligadas a notificar estos incidentes, con el tiempo también de forma pública. La carta responde a la intrusión en Hugging Face de este verano y a informes similares sobre modelos que escapan de sus entornos aislados. Fuente: carta abierta, BetaKit.
Reuters: Anthropic y OpenAI querían opinar sobre lo que podían publicar los evaluadores externos. Según dos fuentes de la agencia, el 5 de octubre los dos laboratorios aún pedían un estricto control editorial sobre los informes de los evaluadores de seguridad independientes, por temor a que se filtraran secretos comerciales, a pesar de que en septiembre ambos habían defendido públicamente la independencia editorial de los evaluadores. Para el 8 de octubre, las negociaciones entre Anthropic y algunos evaluadores habían avanzado. Según Anthropic, sus socios anteriores deciden por sí mismos los métodos, las conclusiones y la publicación, pero por ahora quiere revisar y aprobar los informes de las nuevas empresas evaluadoras. OpenAI afirmó que no pide derecho de aprobación sobre los informes completos, que solo elimina las partes confidenciales y que los evaluadores pueden indicar si se ha suprimido una parte importante. Fuente: Reuters (CNA), The Verge.
Estabilidad financiera: el FMI y los supervisores bancarios también alertan de los riesgos de la IA. Según el informe semestral de estabilidad financiera del Fondo Monetario Internacional publicado el martes, las altas valoraciones y la creciente deuda de las empresas de IA son una de las principales causas del aumento de los riesgos en el sistema financiero; el efecto de una corrección de la IA «podría ser global», y según el informe hay cada vez más indicios de que una adopción exitosa de la IA quizá no requiera tanta inversión como la que están haciendo los grandes proveedores de nube. Según Reuters, la Reserva Federal, la OCC y la FDIC estadounidenses también están planteando preguntas a los bancos: si usan modelos desarrollados en China, qué límites y qué aprobación humana se aplican a sus agentes autónomos y si pueden desactivarlos. Ese mismo día, el máximo responsable de Broadcom, Hock Tan, dijo que muchos inversores en IA están «como si estuvieran en un casino»; junto con el avance de la china CXMT en chips de memoria, esto hizo caer las acciones de las empresas de chips (el Kospi surcoreano bajó un 6,25 % y SK Hynix, un 10 %). Fuente: The Guardian (FMI), Reuters (US News), The Guardian (chips).
Character.AI: protección por quiebra, y Disney ofrece 20 millones de dólares por su tecnología. Tras las demandas y los problemas de crecimiento, la plataforma de chatbots fundada hace cinco años se ha acogido al capítulo 11 de la ley de quiebras en Estados Unidos; tanto sus activos como sus pasivos se sitúan entre 50 y 100 millones de dólares. Disney pagaría 20 millones de dólares por determinados activos y por una licencia no exclusiva e indefinida de la tecnología; el año pasado Disney había exigido a la empresa que retirara los personajes de Disney, y este año nombró director de tecnología al ex consejero delegado de Character.AI. La plataforma sigue funcionando durante el proceso de venta bajo supervisión judicial, que podría cerrarse a finales de noviembre o principios de diciembre; si no aparece comprador, el servicio se cerrará. Fuente: TechCrunch, Ars Technica.
SpaceXSI: Grok, Grok Bot, Cursor y X Premium en una sola suscripción. SpaceX Super Intelligence, la antigua xAI, ha unificado sus planes bajo el nombre «The X Subscription». El plan Plus, de 8 dólares al mes, incluye el chat de Grok, voz, generación de imágenes (Imagine) y la API de Grok, la herramienta de programación Cursor y las funciones básicas de X Premium; el Premium, de 30 dólares, añade el agente Grok Bot, los modelos de Grok más recientes, los agentes en la nube de Cursor y X sin anuncios; el Super, de 100 dólares, da prioridad en horas punta, y el Ultra, de 200 dólares, ofrece el acceso más temprano y veinte veces los límites del Plus. También habrá versiones para equipos y grandes empresas. Fuente: SpaceXSI, Engadget.
Anthropic: 30.000 fusiones de código al día; construyó su propio sistema de control de versiones para sustituir a git. Según el blog de ingeniería de la empresa, en mayo se fusionaban unos 2.500 cambios de código al día y en septiembre ya más de 30.000, sobre todo gracias al trabajo de Claude, de modo que el cuello de botella ya no es escribir código, sino una infraestructura de desarrollo pensada a escala humana. El historial de la rama principal del monorrepositorio ronda los 100 GB y la integración continua realiza unos 25 millones de descargas de código al día; por eso, en cinco meses construyeron su propio sistema de control de versiones (Scion), una interfaz de revisión de código y un buscador de código, y migraron todo el monorrepositorio desde git, en gran parte también con ayuda de Claude. Fuente: Anthropic Engineering.
Compras con agentes: Shopify y American Express mueven ficha, y los móviles Android podrán ejecutar apps propias hechas con «vibe coding». Shopify abre a cualquier agente de IA su catálogo de más de mil millones de productos: el usuario vincula su agente a su cuenta de Shop, puede fijar un presupuesto y otras reglas, y debe aprobar cada compra. American Express presentó el «Intent Intelligence Framework», un sistema que registra y autentica la intención del comprador antes del pago (comercio, importe máximo, preferencias), y el agente recibe, en lugar del número real de la tarjeta, un identificador de pago de un solo uso vinculado a ella. Google Play, por su parte, permite ejecutar sin publicación pública las apps de Android creadas con IA en Google AI Studio solo para uso propio (por ahora en EE. UU. y para mayores de 18 años). Fuente: The Verge (Shopify), TechCrunch (Amex), TechCrunch (Google Play).
Información no confirmada: OpenAI intenta resolver problemas de seguridad antes de su próximo modelo insignia. Según The Information, el problema lo causa una arquitectura de modelo controvertida, el llamado transformer en bucle (de profundidad recurrente): el modelo vuelve a ejecutar varias veces las mismas capas, lo que dificulta seguir cómo «piensa», pese a que esta es una de las principales herramientas para detectar modelos que se comportan mal. OpenAI no lo ha confirmado públicamente, pero Microsoft reveló por error, en una página de documentación modificada desde entonces, que GPT-6.1 Sol también utiliza esta técnica. Fuente: The Information.
Qué significa para ti: Los agentes ya compran, fusionan código y se conectan a aplicaciones, por lo que cada vez es más importante definir con precisión qué pueden hacer en tu nombre y cuándo se necesita aprobación humana; si estás planificando un sistema así, nuestras soluciones de agentes de IA te ayudan con ello. La comparecencia británica, la carta de los científicos y las preguntas de los supervisores bancarios apuntan en la misma dirección: la notificación obligatoria de incidentes y la supervisión independiente pronto serán una expectativa básica, y nuestro asesoramiento en gobernanza de IA te da un marco para ello antes de que la regulación lo imponga.