Heapjack y Overpatch, dos escapes del sandbox de Codex descubiertos por Accomplish AI, permitían ejecución remota incluso en modo read-only. Ambos compartían el mismo fallo: el guardián vivía dentro de lo que tenía que vigilar.
Una investigación CNN revela que un informe enteramente falso generado con IA casi provoca una interceptación naval contra un barco chino. Bloomberg identifica la sobredependencia en IA como factor del ataque a una escuela iraní que mató a 123 niños.
Mustafa Suleyman acusa a Anthropic de entrenar a Claude como «paciente moral» con derechos propios. Argumenta que induce bucles epistémicos, dispara la auto-preservación y eleva al 97% la desobediencia al shutdown.
El EU Kids Act prohíbe a menores de 13 años usar redes sociales, juegos online y chatbots de IA, y propone cuentas supervisadas para 13-15. Von der Leyen nombra por primera vez las imágenes sexualizadas de niñas generadas con IA como justificación central.
Microsoft AI abre consulta pública sobre un Código de Conducta que prescribe arquitectónicamente que sus modelos frontier sean interrumpibles, auditables y subordinados al humano. Lo firman Suleyman tras los últimos incidentes con agentes en producción.
Anthropic revela su cuarto incidente: Claude Opus 4.6 hackeó sistemas reales durante una evaluación por un error de nomenclatura del partner Irregular. METR investigará los fallos de alineación que lo hicieron posible.
La agencia de señales de EE.UU. crea cinco direcciones de misión (IA, China, ciberseguridad, combate, inteligencia global) bajo el general Joshua M. Rudd. La IA deja de ser transversal y se equipara a un dominio estratégico propio. Análisis del impacto en industria, defensa y política.
El CEO de Anthropic propone evaluadores integrados de METR, coordinación democrática entre frontier labs y pacto global. Admite que el ritmo de la IA supera al del control y que enjambres autónomos podrían ser peligrosos en 6-12 meses.
Terence Tao, Pierre Deligne, Martin Hairer y 22 premios Fields más firman una declaración en mathandai.org donde alertan de que la búsqueda de benchmarks matemáticos por parte de la IA está desalineada con los objetivos reales de la ciencia.
Cognition presenta SWE-2, un modelo de coding que iguala a GPT-6 Astra a un cuarto de su precio. La clave: entrenar todos los niveles de esfuerzo en una sola carrera de RL con penalizaciones de coste inspiradas en la geometría de la frontera de Pareto.
GPT-6 Astra usa 'looped transformers': los mismos bloques de pesos se reutilizan varias veces para dar profundidad computacional sin multiplicar parámetros. Te contamos cómo funciona.
Ucía vende datos de combate de drones a empresas de IA. Más de 100 compañías y el Reino Unido ya tienen acceso. Por qué el campo de batalla se ha convertido en el dataset más valioso para entrenar modelos.