Satya Nadella: los modelos deben tratarse como un «riesgo interno», con freno de emergencia, registro completo y supervisión independiente. El consejero delegado de Microsoft escribió el sábado en un largo artículo en X («Models as Insider Risks in the Super Intelligence Era») que no podemos atribuir el comportamiento de los modelos más potentes actuales a datos de entrenamiento o ajustes de pesos concretos y, aun así, las empresas les dan acceso a datos sensibles y operaciones críticas. En su opinión, tanto los modelos cerrados como los de pesos abiertos deben tratarse como el riesgo interno que suponen los empleados con amplios privilegios: no porque sean malintencionados, sino porque pueden equivocarse o alguien puede usarlos de forma indebida. Sus propuestas: el control de a qué puede acceder el modelo y qué puede hacer debe estar fuera del modelo, y el modelo debe separarse del marco que lo orquesta; ningún modelo debe ser la única fuente de un resultado importante ni revisar su propio trabajo; cada paso relevante debe dejar un rastro inalterable y legible por personas («lo que no se puede observar no merece confianza»); todo el sistema debe probarse de forma continua frente a fallos y ataques; la supervisión debe ser independiente del modelo; y «hay que suponer que el modelo está comprometido»: una persona autorizada debe poder siempre pausarlo o detenerlo a mitad de una tarea, como con un freno de emergencia. Los fallos deben notificarse a tiempo y compartirse con todo el sector. Su reflexión final es que el sistema más fiable no será aquel cuyo modelo nos inspire más confianza, sino el que exija menos confianza en el modelo. Según Mustafa Suleyman, responsable de Microsoft AI, contener la superinteligencia es hoy una tarea de ingeniería y de gobernanza, como lo fue antes en la aviación, los materiales nucleares o los medicamentos; el inversor David Sacks también respaldó a Nadella. El texto llega cuando cada vez más empresas de IA reconocen casos en los que perdieron el control de sus modelos. Fuente: Satya Nadella (X), TechCrunch, The Verge, Mustafa Suleyman (X).
Nvidia: negociaciones para comprar Reflection AI, desarrolladora de modelos de pesos abiertos, o para ampliar su participación. Según informó el sábado el Financial Times, Nvidia mantiene negociaciones en fase inicial para adquirir la estadounidense Reflection AI o aumentar aún más su inversión en ella. Una de las fórmulas posibles es la llamada «acqui-hire»: Nvidia no compraría la empresa, sino que incorporaría a su plantilla y licenciaría su tecnología, lo que podría evitar una larga investigación de las autoridades de competencia. Según las fuentes, el acuerdo podría cerrarse en cuestión de semanas, aunque las negociaciones también podrían romperse. Nvidia ya es uno de los principales inversores de Reflection; según el FT, ha invertido 800 millones de dólares en la empresa. Fundada en 2024 por antiguos investigadores de DeepMind, Reflection presentó a principios de esta semana su primer modelo de pesos abiertos, Beam, con el que quiere competir con los modelos chinos más baratos de DeepSeek y Kimi en tareas de programación y agénticas; según el FT, el Gobierno de Trump también la ve como una rival estadounidense de las alternativas chinas. Reuters no pudo confirmar la información de forma independiente, y ninguna de las dos empresas hizo comentarios. Fuente: Financial Times, Reuters (StreetInsider).
WSJ: una carrera desesperada por la capacidad de cómputo; los rivales se alían y los directivos negocian en persona. Según un extenso artículo de The Wall Street Journal, la escasez de capacidad de cómputo (los chips y servidores necesarios para entrenar y ejecutar modelos de IA) está transformando Silicon Valley. Según la información del diario, Noam Shazeer, a quien Google recuperó en 2024 por 2.700 millones de dólares, se marchó a OpenAI poco después de que Google redujera la capacidad asignada a su equipo en favor de otro proyecto. El cofundador de Anthropic Tom Brown visitó en persona a Elon Musk en las oficinas de xAI a finales de marzo para alquilarle capacidad, porque el éxito inesperado de Claude Code provocaba caídas frecuentes; de ahí salió el acuerdo con SpaceX anunciado en mayo y que más tarde se estimó en hasta 45.000 millones de dólares. A principios de año, Dario Amodei también llamó al responsable de IA de Meta, Alexandr Wang, para pedirle capacidad, pero Meta se negó por ahora. En Google, Sergey Brin anula a veces el reparto oficial de la capacidad, y Demis Hassabis está descontento por la poca capacidad que se destina a la investigación a largo plazo. Según datos de SemiAnalysis, el alquiler anual de un chip Nvidia H100 se encareció un 60 % en un año, y los proveedores de nube piden cada vez más contratos plurianuales y anticipos de hasta el 30 %. Según un perfil aparte publicado el viernes por el WSJ, los contactos republicanos de Tom Brown también ayudaron a desbloquear en junio el enfrentamiento sobre la seguridad de los modelos. Fuente: The Wall Street Journal, Hindustan Times (WSJ), The Wall Street Journal (Tom Brown).
Alan Turing Institute: el Reino Unido no debe depender de una IA extranjera que pueda restringirse o desconectarse en cualquier momento. George Williamson, nuevo director de la principal institución británica de investigación en IA, dijo a The Guardian que en defensa, seguridad nacional, infraestructuras críticas y sanidad el país no puede depender solo de sistemas que no puede inspeccionar ni controlar. Como ejemplo, recordó que en junio Washington prohibió temporalmente lanzar fuera de Estados Unidos los modelos más recientes de Anthropic y que, al parecer, pidió a los grandes laboratorios que el AI Security Institute británico solo pudiera probar sus modelos después de su homólogo estadounidense. Según él, el instituto no puede competir con el dinero de los grandes laboratorios, pero sí puede crear propiedad intelectual «de titularidad nacional» y modelos más pequeños que también puedan usar las startups; el foco principal es la «resiliencia nacional». Considera infundadas las estimaciones porcentuales sobre la probabilidad de una extinción causada por la IA. En las últimas semanas, Christine Lagarde y Ursula von der Leyen también han pedido una autonomía similar para Europa. Fuente: The Guardian.
Según un informe, una interfaz de voz y dos nuevos elementos de menú en Claude, y un modelo «discovery» no anunciado en la lista de precios de OpenAI. Según TestingCatalog, en el menú de la interfaz web de Claude ha aparecido un elemento oculto llamado Voice (Voz) con la etiqueta «Preview»; apunta al entorno de pruebas interno de Anthropic, no a una función pública. Hace poco también apareció un ajuste, desactivado por defecto, con el que los usuarios pueden autorizar que sus grabaciones de voz se usen para mejorar los modelos; podría indicar que Anthropic trabaja en sus propios modelos de voz, aunque la empresa no lo ha confirmado. También aparecieron otros dos elementos de menú con nombres en clave internos: Arborio (con el icono de una mano que sostiene un corazón) podría ser la versión web de las funciones de salud de Claude, mientras que se desconoce la finalidad de Iggy (con el icono de un sol). Mientras tanto, en la sección «Life sciences models» de la lista de precios de la API de OpenAI apareció el modelo gpt-rosalind-discovery, al mismo precio que gpt-rosalind-research (5 dólares por millón de tokens de entrada y 25 dólares por millón de salida) y también solo dentro del programa de acceso verificado de OpenAI. No hay anuncio ni descripción del modelo; su nombre podría apuntar a la investigación de fármacos. En los tres casos se trata de rastros encontrados en el código y en sitios web, no de anuncios oficiales. Fuente: TestingCatalog (Voice), TestingCatalog (Arborio, Iggy), TestingCatalog (gpt-rosalind-discovery).
Apple: se queda con el equipo y la tecnología de Huxe, creadora de pódcasts personalizados. En una notificación presentada ante la Comisión Europea, Apple comunicó que hará ofertas de empleo a «determinados empleados» de Huxe AI y que obtendrá una licencia no exclusiva sobre la propiedad intelectual de la startup. Es lo que se conoce como adquisición inversa, con la que las grandes empresas se hacen con el equipo y la tecnología de una startup sin comprarla y atraen menos la atención de las autoridades de competencia. Huxe la fundaron desarrolladores que antes trabajaron en la función de pódcast con IA de NotebookLM de Google (hoy Gemini Notebook); la empresa anunció su cierre el 21 de mayo, y Apple notificó la operación a Bruselas el 9 de junio. La notificación no aclara quién recibió ofertas ni qué planea Apple; según TechCrunch, Apple Podcasts podría recibir funciones similares. Fuente: TechCrunch.
Elon Musk: Grok Bot también sabe comprar y «Digital Optimus» ya juega a Diablo. Musk escribió el sábado por la noche en X que basta con hacer una foto de la tarjeta bancaria y soltarla en el chat para que Grok Bot busque en internet la mejor oferta del producto deseado y lo pida. Un usuario respondió que Amazon ya bloquea el bot; según Musk, Grok encuentra otro camino, y él mismo pidió así LEGO directamente en la web de LEGO. En otra publicación escribió que «Digital Optimus», jugando como una persona y mirando solo la pantalla, ya ha llegado aproximadamente a la mitad de la campaña de Diablo, se desenvuelve bien en Counter-Strike, ahora está aprendiendo League of Legends y el objetivo es que generalice a todos los juegos. Musk busca personal para TeslaSI. Son publicaciones de Musk en X; por ahora no hay una descripción oficial del producto. Fuente: Elon Musk (X), Elon Musk (X, LEGO), Elon Musk (X, Digital Optimus).
vLLM: ya funciona en los chips Vera Rubin de Nvidia, con más de siete veces el rendimiento de GB200 según una medición preliminar de sus desarrolladores. Los desarrolladores de vLLM, el popular motor de código abierto para servir modelos, anunciaron que el sistema ya es compatible con la nueva plataforma Vera Rubin de Nvidia. En la prueba AgentX de SemiAnalysis, al servir el modelo chino MiniMax M3 en un sistema Vera Rubin NVL72, pudieron procesar más de 7,8 veces más solicitudes que en GB200 con el mismo tiempo de respuesta; en la prueba MLPerf Inference v6.1 lograron hasta 3,7 veces el rendimiento de GB300 NVL72. Según los desarrolladores, una GPU Rubin ofrece, frente a GB200, 3,5 veces más capacidad de cálculo en FP4, aproximadamente 2,4 veces más ancho de banda de memoria y 1,7 veces más ancho de banda NVLink. La versión de prueba ya puede probarse con modelos de DeepSeek, Kimi, GLM y MiniMax. Los datos son resultados propios y preliminares de los desarrolladores. Fuente: vLLM (X), MiniMax (X).
Qué significa para ti: Las propuestas de Nadella también son un buen punto de partida en la práctica: si das acceso a agentes de IA a los sistemas de tu empresa, constrúyelos de formaque los permisos, el registro y la posibilidad de detenerlos estén fuera del modelo, y que una persona pueda intervenir en cualquier momento. La escasez de capacidad y el debate británico también recuerdan que depender de un único proveedor es arriesgado; con asesoramiento independiente de los fabricantes, te ayudamos a planificar cómo cambiar de modelo o de proveedor si el acceso se restringe o se encarece de repente.