El Pentágono deja de usar las herramientas de Anthropic, meses después de calificarla de «riesgo para la cadena de suministro». Un funcionario del Departamento de Defensa de EE. UU. declaró el lunes a la BBC que el Pentágono «ha dejado de usar los productos de Anthropic». El secretario de Defensa, Pete Hegseth, designó a la empresa en febrero como riesgo para la cadena de suministro por motivos de seguridad nacional, después de que Anthropic se negara a levantar sus prohibiciones sobre las armas totalmente autónomas y la vigilancia masiva; la retirada se había prometido para finales de agosto. Según las fuentes de la BBC, Claude seguía usándose la semana pasada en investigación, análisis e inteligencia, e incluso en operaciones militares contra Irán, entre otras cosas integrado en la plataforma de datos Maven Smart System, gestionada por Palantir. Anthropic declinó hacer comentarios; la empresa impugna la designación en los tribunales, pero según la decisión de apelación mencionada en un resumen anterior, el Pentágono puede mantenerla por ahora. Mientras tanto, el departamento ha firmado contratos con Google, xAI y OpenAI. Fuente: BBC.
Audiencia sobre IA en Nueva York: los laboratorios no cuantificaron el riesgo de catástrofe y SpaceXAI ni siquiera se presentó. A la sesión del lunes, anunciada en un resumen anterior, asistieron los 51 miembros del Concejo Municipal, la primera vez desde 2022 en este formato. Representantes de OpenAI, Anthropic, Google y Meta respondieron bajo juramento, pero ninguno estimó numéricamente la probabilidad de un desenlace catastrófico ni se comprometió a que un test de seguridad independiente fallido detenga automáticamente el lanzamiento de un modelo. Según Morgan Dwyer, de OpenAI, «no importa si es un 1, un 10 o un 20 por ciento», porque ninguno es aceptable; Julie Menin, presidenta del Concejo, calificó la respuesta de «frívola, en el mejor de los casos». Jacob Coxon, exinvestigador de OpenAI y Anthropic, afirmó que, con la trayectoria actual, es «más probable que improbable» que la humanidad pierda el control de la IA; Daniel Kokotajlo (antes en OpenAI) y Alex Turner (antes en Google DeepMind) testificaron por vídeo tras ser citados. SpaceXAI, de Elon Musk, no compareció pese a la citación, y el Concejo acudirá a los tribunales para hacerla cumplir. El órgano estudia diez proyectos de ley, entre ellos auditorías independientes obligatorias, un «interruptor de emergencia» humano y recompensas para los denunciantes. Fuente: amNewYork, TNW, City & State NY.
Wikimedia: agentes «descontrolados» de OpenAI en los sistemas de Wikipedia, que pudieron contribuir a una caída en mayo. Según un informe publicado el lunes por la Wikimedia Foundation, que gestiona Wikipedia, agentes de IA presuntamente operados por OpenAI editaron las wikis sin autorización (casi exclusivamente en páginas de pruebas tipo «sandbox», ocultas a los lectores), con algunas ediciones intentaron usar una herramienta de citas como proxy, es decir, como servidor intermediario, y trataron sin éxito de explotar el Etherpad público de la fundación, una herramienta para tomar notas. Además, enviaron millones de solicitudes automatizadas y descargaron millones de páginas, lo que pudo contribuir a una caída parcial de uno de sus servicios de datos en mayo. La fundación no encontró pruebas de que sus sistemas o datos hubieran sido vulnerados, pero considera que no se debe permitir que esto se convierta en la «nueva normalidad» de la web abierta. Es el último episodio de la serie de incidentes con agentes de OpenAI que empezó con el incidente de Hugging Face. Fuente: Wikimedia Foundation, Reuters, The Verge.
OpenAI: marcas de agua invisibles en los textos de ChatGPT y Codex en la UE. La Ley de IA de la UE (EU AI Act) exige que los textos escritos por IA generativa sean detectables por máquinas. Por eso, OpenAI añadirá en las próximas semanas una marca de agua invisible a las respuestas de texto de ChatGPT y Codex en la UE; en la API (acceso para desarrolladores) puede activarse en todo el mundo desde el lunes para algunos modelos, aunque viene desactivada por defecto. La técnica, llamada textGrain, oculta una señal estadística en la elección de palabras; por ahora, el detector que la busca solo está disponible para investigadores y organizaciones especializadas aprobados, y más adelante la tecnología se publicaría como código abierto. La propia empresa subraya sus límites: en textos cortos la marca de agua a menudo no se detecta —con una tasa de falsos positivos del 1 %, la encontró en alrededor del 80 % de los fragmentos de 200 tokens (unas 150 palabras) y en alrededor del 95 % de los de 400—, y puede eliminarse por completo reescribiendo o traduciendo el texto. Fuente: OpenAI, The Verge.
Reflection AI presenta Beam, un modelo de pesos abiertos de 501.000 millones de parámetros del aspirante estadounidense. El modelo, anticipado en un resumen anterior a partir de una información de Axios, se presentó oficialmente el lunes. Beam es un modelo de mezcla de expertos (MoE): de sus 501.000 millones de parámetros, 23.000 millones trabajan a la vez. Se entrenó con 23,8 billones de tokens, y la fase de aprendizaje por refuerzo (RL) duró cuatro semanas en 10.500 GPU Nvidia GB300. Según las mediciones de la propia empresa, en razonamiento iguala al GLM-5.2 de la china Z.ai con entre 3 y 4 veces menos cómputo, y en tareas de programación y agénticas se acerca al Qwen 3.8-Max de Alibaba; aún no hay resultados independientes, aunque Artificial Analysis ya lo está evaluando. Beam está pasando las últimas pruebas de seguridad; los pesos y el informe técnico se publicarán a finales de mes, y hasta entonces se puede solicitar acceso anticipado. Fuente: Reflection AI, TechCrunch.
The Information: Meta y Microsoft reducen el uso interno de Claude. Según informa el medio, los dos mayores clientes empresariales de Anthropic están orientando a sus empleados hacia herramientas propias. Microsoft calculaba un gasto interno en Claude de más de 1.000 millones de dólares al año, pero sus directivos pidieron a la plantilla que usara GitHub Copilot, los modelos de OpenAI y herramientas internas, con lo que el gasto previsto se redujo en más de un tercio. En Meta, los usuarios de Claude Code pasaron de unos 60.000 a principios de año a 30.000, en parte por los despidos y en parte por sus herramientas propias Muse Code y MetaCode. Fuente: The Information, The Decoder.
OpenAI: llegan anuncios visuales a ChatGPT durante la generación de imágenes. En octubre, OpenAI empezará a probar en Estados Unidos, con unos pocos anunciantes, un nuevo formato de anuncio visual que aparece mientras se genera una imagen, claramente señalizado y separado de la imagen en curso. La empresa asegura que los anuncios no influyen en las respuestas de ChatGPT. Según OpenAI, ChatGPT llega a 1.200 millones de personas a la semana; además, ofrece a los anunciantes más herramientas de medición y socios (como Hightouch, Tealium, LiveRamp o AppsFlyer). Fuente: OpenAI, TechCrunch.
Cohere: North 2, con memoria, una orquestación de agentes renovada y límites de gasto en su plataforma de IA empresarial. La canadiense Cohere presentó el lunes la «mayor actualización hasta la fecha» de su plataforma North. El sistema de orquestación rediseñado completa por sí solo tareas de varios pasos y solo recurre a una persona en los pasos que requieren aprobación; los agentes conservan el contexto entre sesiones, y las soluciones que funcionan pueden compartirse dentro de la empresa como «habilidades» reutilizables y bibliotecas de conocimiento comunes. Los administradores pueden seguir el consumo de tokens por usuario y por agente, y fijar cuotas y un límite de gasto para toda la empresa. La plataforma es independiente del modelo y puede ejecutarse en la nube, en servidores propios o incluso en entornos totalmente aislados de internet. Fuente: Cohere, SiliconANGLE.
Noruega quiere prohibir temporalmente las gafas con IA en algunos lugares públicos. El Gobierno noruego anunció el lunes que presentará en breve un proyecto de ley para prohibir temporalmente el uso de gafas con IA y cámara en lugares como parques, playas, museos, centros comerciales, colegios y guarderías, mientras un grupo de expertos elabora las normas definitivas. Según el ministro de Digitalización, Torgeir Micaelsen, es preocupante que se pueda fotografiar, grabar en vídeo o grabar el audio de las personas sin que lo sepan. Según el Financial Times, Noruega es el primer gran país que propone una prohibición así; los colegios de Oslo y la energética Equinor ya habían vetado estos dispositivos. Fuente: Reuters, Ars Technica (a partir del Financial Times).
Qué significa para ti: La responsabilidad sobre los agentes de IA ya no es una cuestión teórica: el Pentágono sustituyó por completo a su proveedor tras una disputa sobre los límites de seguridad, Nueva York estudia auditorías independientes obligatorias y un interruptor de emergencia, y Wikimedia documentó públicamente lo que hicieron los agentes descontrolados. Mientras tanto, las grandes empresas están replanteándose, por los costes, qué modelos usan sus empleados; conviene planificarlo de forma consciente, sin atarse a un único proveedor. Si vas a implantar agentes, te ayudamos a establecer una supervisión y unas normas transparentes; si la cuestión es elegir proveedor, echa un vistazo a nuestros servicios de consultoría.