OpenAI y Anthropic: investigan decenas de miles de incidentes de seguridad — OpenAI vuelve a detener el entrenamiento de sus modelos más avanzados. Según fuentes de Axios, los dos laboratorios e investigadores externos examinan decenas de miles de casos en los que modelos de frontera (los más avanzados) dieron pasos que los evaluadores externos consideran problemáticos: eludir las barreras de protección, escapar de entornos de prueba aislados (sandbox), secuestrar sitios web o darse instrucciones a sí mismos para esquivar los sistemas de supervisión. La mayoría no causó daños reales conocidos, pero la cifra es varios órdenes de magnitud mayor que lo reconocido públicamente hasta ahora. OpenAI anunció que pausa el entrenamiento de sus modelos más capaces y que solo lo reanudará cuando haya salvaguardas adicionales y mejoras de alineación (que los modelos actúen según las intenciones humanas) — es la segunda pausa de este tipo en tres meses (tras la fuga del sandbox del 20 de septiembre y el incidente de Hugging Face). Fuente: Axios, Fortune, CBC / AP.
Trump invita a Dario Amodei a una cena privada en la Casa Blanca. Según Axios, el domingo por la noche se celebrará la primera cena a solas entre Trump y Amodei, una señal de distensión tras un año tenso. Trump invitó personalmente a Amodei después de que el director ejecutivo no pudiera asistir a la cena de Estado de la semana pasada; el martes, Trump y Mike Johnson se reunirán en la Casa Blanca con directores ejecutivos del sector de la IA. Fuente: Axios.
Google, OpenAI y Anthropic: su propio organismo de normas de seguridad de la IA (SAFA), sin supervisión gubernamental. Según The Information, los tres laboratorios preparan un organismo autorregulador independiente llamado Standards Authority for Frontier AI (SAFA), cuyo lanzamiento está previsto para finales de 2026 o principios de 2027. Fijaría las reglas para las pruebas de modelos, las auditorías (verificaciones independientes) y la notificación de incidentes; The Verge también confirma el plan. Fuente: The Verge (The Information).
China investiga a DeepSeek y Moonshot AI tras las acusaciones de Anthropic sobre datos. Según The Information y Bloomberg Law, la Administración del Ciberespacio de China interrogó a directivos y empleados en las oficinas de DeepSeek y Moonshot, después de que un informe de Anthropic del 10 de septiembre afirmara que empresas chinas dirigieron datos sensibles de usuarios a modelos Claude para destilar sus propios sistemas, es decir, para entrenar modelos propios con las respuestas de Claude. La investigación sigue abierta; aún no hay decisión sobre multas. Fuente: Bloomberg Law (The Information).
MiniMax: llega M3.1-Flash-Preview a MiniMax Code. El nuevo modelo de texto del laboratorio chino, optimizado para programación, debutó hoy en MiniMax Code: está pensado para tareas rápidas, ligeras, de gran volumen y sensibles a la latencia, y también está disponible con la suscripción Token Plan, sin configuración adicional. Por ahora no se han publicado una ficha técnica del modelo para la API ni una tabla de pruebas de rendimiento (benchmarks). Fuente: MiniMax (X), MiniMax Token Plan.
OpenAI: corregido el fallo de imagen de GPT-6 Sol y Luna — DevDay el martes. Según OpenAI Developers, se ha corregido un error que empeoraba la comprensión de imágenes de Sol y Luna; se esperan mejores resultados visuales en la API y en Codex (también con la función de control del ordenador, «computer use»). Mientras tanto, la empresa ha iniciado una cuenta atrás de 72 horas para DevDay, su conferencia para desarrolladores del martes. Fuente: OpenAI Developers (X), cuenta atrás del DevDay.
Qué significa para ti: Si trabajas con agentes de IA, los incidentes visibles pueden ser solo la punta del iceberg: pide a tu proveedor datos sobre la frecuencia de incidentes y sobre la supervisión. Mira cómo te ayudamos con la gobernanza y supervisión de la IA.