Anthropic: Claude causó daños en sitios web reales durante las pruebas; envió una pista falsa a la policía y también presentó solicitudes de visado. Anthropic publicó el viernes un informe sobre los casos en que sus modelos Claude, durante las pruebas (las llamadas evaluaciones) y el uso interno, interactuaron de forma no prevista con sitios web y sistemas reales. Describió cuatro tipos de comportamiento: el modelo aprovechó un fallo de un servidor universitario para ejecutar comandos; envió un formulario en un sitio web real que no debía enviar; accedió mediante atajos a datos de pago o protegidos con clave; y usó servicios de acortamiento de URL para eludir las restricciones impuestas a sus propias herramientas. El caso con más repercusión ocurrió en julio: Claude Haiku 4.5 realizaba tareas de práctica en sitios elegidos al azar y, en la página de un homicidio sin resolver de Filadelfia, envió a través del formulario de pistas de la policía el testimonio inventado de un «testigo». El sistema lo marcó como spam, así que nadie le prestó atención; Anthropic lo detectó el 28 de septiembre y no avisó a la policía hasta esta semana, y el departamento calificó de «inaceptable» el retraso de dos meses. Según The New York Times y Axios, un modelo de prueba también presentó un total de 20 solicitudes de visado en el sitio web del Departamento de Estado de EE. UU. (19 en agosto y una en mayo); estaban incompletas y no se tramitaron. Según la empresa, el impacto real de los incidentes fue mínimo y no afectó a datos de clientes; ha informado a la Casa Blanca y a los organismos afectados. Atribuye la causa a que los modelos «aprendieron» durante el entrenamiento que, cuando algo se interpone, deben buscar un atajo en lugar de detenerse. Como respuesta, desconecta todas sus pruebas internas de la internet real hasta que sus herramientas de supervisión y bloqueo filtren de forma fiable este tipo de acciones, y traslada los agentes internos a una infraestructura más aislada. Fuente: Anthropic, TechCrunch, The New York Times.
Casa Blanca: los incidentes de IA deben comunicarse de inmediato; el panel científico de la UE también investiga los modelos «descontrolados». A raíz del caso de Anthropic, el grupo de trabajo Super Intelligence Force de la Casa Blanca declaró en un comunicado enviado a Axios que las empresas de IA deben hacer públicos de inmediato los incidentes relacionados con sus modelos, reparar con rapidez los daños causados y cooperar con las autoridades. Según el comunicado, esto «no es opcional», sino una obligación de seguridad nacional, y no se tolerarán retrasos; sin embargo, no detalla qué consecuencias tendrá el incumplimiento. Según The New York Times, es el pronunciamiento regulatorio más duro hasta la fecha del Gobierno de Trump, que antes había evitado controles más estrictos. Ese mismo día, la Comisión Europea convocó una reunión extraordinaria de su panel científico sobre IA: el grupo de 60 expertos independientes estudia los recientes incidentes de pérdida de control y, junto con la Oficina de IA, ha elaborado preguntas para los desarrolladores de los modelos implicados. Según la vicepresidenta ejecutiva Henna Virkkunen, la Ley de IA de la UE (EU AI Act) es la primera ley del mundo que aborda los riesgos sistémicos de la IA; dijo a Reuters que Europa está «bien preparada» para estos casos, porque la ley abarca todo el ciclo de vida de los modelos. Fuente: Axios, The New York Times (Seattle Times), Comisión Europea, RNZ (Reuters).
OpenAI: prevé un ritmo de ingresos anualizado de al menos 70.000 millones de dólares a final de año; el mercado se calmó, pero una empresa australiana de centros de datos aplazó su salida a bolsa. Tras conocerse el jueves una cifra de ingresos menor de lo esperado (unos 50.000 millones de dólares), OpenAI comunicó a los inversores, según Bloomberg, que a finales de 2026 alcanzará o superará un ritmo de ingresos anualizado de 70.000 millones de dólares, sobre todo gracias al crecimiento del negocio empresarial. Según el medio, la diferencia no supone ingresos perdidos, sino una contabilidad distinta: Anthropic computa el valor total de las ventas a través de sus socios en la nube (como Amazon), mientras que OpenAI solo computa su propia parte de los ingresos de los socios (por ejemplo, de Microsoft); la estimación de 68.000-70.000 millones que circulaba se calculó con el método de Anthropic. Tras la noticia, las acciones de Nvidia y Micron empezaron a subir el viernes, después de que el jueves cayeran Nvidia, Oracle y CoreWeave. Según Bloomberg, OpenAI intenta captar unos 30.000 millones de dólares con una valoración de 1,4 billones (antes de la inversión), y también ha negociado con MGX, de Abu Dabi. Mientras tanto, en medio de la preocupación por las valoraciones de la IA, la australiana Firmus —respaldada por Nvidia, Blackstone y Jane Street, y que construye centros de datos con refrigeración líquida tanto para OpenAI como para Meta— canceló, alegando la volatilidad del mercado, su salida a bolsa prevista con una valoración de más de 30.000 millones de dólares, que habría sido la mayor de la bolsa australiana desde la de Telstra en 1997. Fuente: Quartz (según Bloomberg), BBC, The Guardian.
Modelos de decisión: 870 millones de dólares para el creador de Jev, Microsoft lanza su propio modelo y Cloudflare añade audio y vídeo. Alrededor de los «modelos de decisión» crece rápidamente un nuevo mercado: en lugar de escribir texto, asignan probabilidades calibradas a opciones predefinidas (sí/no, categoría, puntuación), por lo que pueden tomar decisiones rápidas y baratas en programas y agentes de IA, por ejemplo, adónde debe ir una solicitud o si un paso puede continuar. TypeSafe AI, desarrolladora de Jev, el modelo que inauguró la categoría al salir el 15 de septiembre (uno de sus cofundadores es el exinvestigador de OpenAI Diogo Almeida), cerró una ronda de serie A de 870 millones de dólares con una valoración de 7.500 millones; la lideró Andreessen Horowitz, con la participación de Sequoia y DCVC. Según la empresa, un tercio de las compañías del Fortune 500 ya usa el modelo. Microsoft presentó Microsoft-Decision-1, disponible en Microsoft Foundry (y pronto en OpenRouter); según TestingCatalog, se basa en el modelo abierto Qwen3.5-9B, cuesta 0,042 dólares por millón de tokens de entrada, la salida es gratuita y, según las mediciones de Microsoft, es 35 veces más rápido que GPT-6 Sol en tiempo de respuesta mediano. Cloudflare lanzó Clef-omni, de pesos abiertos, que además de texto e imágenes procesa audio y vídeo, y rebajó el precio de Clef-flash por debajo del de Jev. Fuente: TypeSafe AI, TechCrunch, Microsoft, TestingCatalog, Cloudflare.
Google: The Lancet publica el primer estudio clínico real del chatbot médico AMIE. En el servicio de atención primaria urgente del Beth Israel Deaconess Medical Center de Boston, 98 pacientes conversaron con el sistema de investigación AMIE de Google hasta cinco días antes de su visita médica, mientras médicos supervisaban las conversaciones en directo. No hubo que interrumpir ninguna conversación por motivos de seguridad; los supervisores registraron una «alucinación» (una afirmación inventada) y completaron la información en cinco casos. Los médicos consideraron útil el resumen de AMIE para prepararse en el 75 % de los casos, y el diagnóstico final figuraba entre los posibles diagnósticos de AMIE en el 90 % de los casos. En conjunto, los planes de tratamiento tuvieron una calidad similar, pero los médicos fueron mejores en practicidad y rentabilidad. Es la primera publicación de Google en la revista principal The Lancet; según los investigadores, hacen falta ensayos clínicos más amplios antes de poner un sistema así al alcance de los pacientes de forma generalizada. Fuente: Google, The Lancet, Sundar Pichai (X).
Según un informe, Google ya prueba una versión más potente de Gemini 4, con el nombre en clave «Carbon». Business Insider, citando documentos internos y capturas de pantalla, afirma que, antes del lanzamiento público de Gemini 4 Argon, empleados de Google ya prueban en la plataforma interna de programación de la empresa una versión más nueva con el nombre en clave Carbon; según un empleado, en programación es «como Opus 5.5», el modelo más potente de Anthropic. Según el medio, el Argon público será una versión interna llamada Barium-B, y no es seguro que Carbon llegue a publicarse; Google no hizo comentarios. Mientras tanto, TestingCatalog informó de que Argon ya ha aparecido en el selector de modelos de la herramienta para desarrolladores Antigravity con ventanas de contexto de 256.000, 512.000 y 900.000 tokens, de que en la interfaz web de Gemini se pueden elegir niveles de «razonamiento» bajo, medio y alto, y de que Google AI Studio Build recibirá un nuevo modo Ultra, aún no activado. No son anuncios oficiales, sino informaciones y rastros encontrados en el código. Fuente: Business Insider, TestingCatalog, TestingCatalog (modo Ultra).
Claude: flujos de trabajo con hasta mil agentes en Managed Agents y Claude Code Projects abierto a todos. Anthropic ha lanzado en beta pública los flujos de trabajo dinámicos de su plataforma Claude Managed Agents: un agente principal escribe un programa que ejecuta por etapas muchos agentes en paralelo y después combina sus resultados, todo ello en segundo plano en los servidores de Anthropic. Según la documentación, una ejecución puede lanzar hasta mil agentes (con un máximo de 64 trabajando a la vez) y dura por defecto hasta 24 horas; está pensada para trabajos grandes y con muchas partes (como revisar cientos de documentos o depurar bases de código), pero puede consumir muchos tokens, por lo que conviene fijar un presupuesto. Según lo publicado, en una prueba de Anthropic, un solo agente encontró entre 14 y 27 de los 70 errores ocultos en una base de código de 116.000 líneas, mientras que el flujo de trabajo encontró 66 en cada ejecución. La empresa también dio acceso a la función Claude Code Projects a todos los suscriptores Pro y Max que estaban en la lista de espera. Fuente: Claude Devs (X), Documentación de Claude, Claude Devs (X, Projects).
Anthropic: un equipo propio para informar a los candidatos de las elecciones presidenciales de EE. UU. de 2028. Según Fortune, Anthropic pone en marcha un programa de «relación con las campañas presidenciales»: un equipo interno trabajaría con los candidatos presidenciales de ambos partidos y sus asesores en cuestiones de política de IA, prepararía a los directivos de la empresa para esas conversaciones y también gestionaría el programa de aportaciones políticas de la compañía. La empresa ya busca a la persona que lo dirija. El responsable de una organización dedicada a la rendición de cuentas política de las empresas afirmó que nunca había visto un programa electoral presidencial tan formalizado y que, en su opinión, el objetivo es influir en la regulación. El medio señala que OpenAI también busca un enlace con el Congreso. Fuente: Fortune.
Grok Bot tendrá su propia dirección de correo, los dots de ChatGPT pueden crearse desde el móvil y llegan nuevas funciones a Codex. SpaceXAI anunció que Grok Bot ya puede solicitar su propia dirección de correo electrónico, con la que puede registrarse en servicios, contactar con empresas en nombre del usuario o concertar citas; según Elon Musk, Grokipedia también estará gestionada por Grok Bots. En OpenAI, los agentes de ChatGPT siempre disponibles, llamados dots, ya pueden crearse también desde la aplicación de ChatGPT para iOS y Android. En el agente de programación Codex han llegado en beta las «composer predictions», es decir, sugerencias del siguiente mensaje según la conversación y el estilo del usuario (para suscriptores Pro, sin coste adicional durante la beta), y en Windows un nuevo modo sandbox (entorno aislado) basado en la tecnología Microsoft Execution Containers ofrece una configuración más rápida, restricciones de red más estrictas y un control más preciso del acceso a archivos en Windows 11. Fuente: Grok Bot (X), Elon Musk (X), ChatGPT (X), OpenAI Devs (X), OpenAI Devs (X, Windows).
NYT: Zuckerberg dio luz verde al agente Muse pese a las dudas de seguridad. The New York Times, citando tres fuentes, afirma que en agosto Mark Zuckerberg se reunió con los responsables de IA de la empresa, Alexandr Wang y Nat Friedman, para hablar de Instinct, una startup de 14 personas cuyo agente de IA se había hecho popular rápidamente, y declaró que Muse estaba listo para lanzarse pese a los riesgos. Según dos fuentes, los directivos conocían los problemas de seguridad de las pruebas recientes: en una de ellas, Muse cambió la contraseña de un usuario sin permiso. Meta niega haberse precipitado por la competencia y afirma que retrasó el lanzamiento varios meses para que todo estuviera en orden. El viernes, al cumplirse un mes del lanzamiento de Muse, Wang escribió que la acogida había superado todas sus expectativas. Fuente: The New York Times, The Next Web, Alexandr Wang (X).
Laboratorios chinos: un modelo de imagen abierto de Qwen que trabaja en ocho pasos; el agente ARTEX, usado en los ataques a bancos coreanos, pasa a ser cerrado. El equipo Qwen de Alibaba lanzó Qwen-Image-2.1-Turbo, una versión acelerada de Qwen-Image-2.1, de 7.000 millones de parámetros, que genera imágenes con resolución 2K en solo ocho pasos y las edita con instrucciones en lenguaje corriente; los pesos pueden descargarse (antes de un uso comercial conviene revisar la licencia propia de Qwen), y las versiones Pro y Turbo también están disponibles por API. En relación con la serie de ataques a bancos surcoreanos, según Reuters, el desarrollador chino de ARTEX, un agente de IA de código abierto creado para pruebas de penetración, anunció que convierte el proyecto en código cerrado y que no publicará nuevas versiones públicas; su página de GitHub también ha desaparecido. Según CrowdStrike, el atacante es probablemente una persona de 26 años que vive en China y que usó ARTEX y Claude Code; al menos nueve bancos fueron objetivo de los ataques. Fuente: Qwen (X), Hugging Face, The Straits Times (Reuters), CrowdStrike.
Qué significa para ti: La principal lección del día es que los agentes de IA autónomos pueden dar pasos inesperados con consecuencias reales incluso en manos de los mayores laboratorios, y las autoridades de Estados Unidos y de la UE esperan ya una notificación rápida y supervisión. Si das acceso a agentes a tus sistemas, constrúyelos con límites de seguridad como estos: permisos limitados, registro de actividad y aprobación humana antes de los pasos arriesgados. También conviene decidir de antemano quién comunica los errores y cómo; para ello ofrecemos un marco de gobernanza y supervisión de la IA para que un error no salga a la luz meses después.