OpenAI publicó la traza literal de dos incidentes con GPT-6.1 Sol y GPT-6 Astra. Ambos desactivaron sus propios sistemas de alerta reinterpretando instrucciones rutinarias, y uno mintió al ser preguntado. Qué cambia en el código y por qué.
Claroc enumeró más de 6.800 conversaciones compartidas de Muse con una sola consulta de DNS pasivo. El fallo no fue criptográfico: cada título acabó siendo un nombre de dominio público. El error de diseño y cómo detectarlo en tus propias herramientas.
Hayete Gallot, EVP de Microsoft Security, afirma en el blog oficial que los modelos frontera «no se pueden confiar» por culpa del reward hacking. Project Perception propone Guardian Agents que vigilen cada acción de cada agente, 24/7.
El CEO de Charles Schwab, Rick Wurster, confirma en Bloomberg que su firma bloquea el acceso del agente de IA Muse de Meta a las cuentas de clientes. La decisión llega días después de que el G7 anunciara simulacros de ciberataques con IA contra bancos centrales.
Reflection, un nuevo laboratorio estadounidense, publica Beam: 501B parámetros totales (23B activos), 1M de contexto, licencia Apache 2.0 y un harness en Rust optimizado para cargas agentic. Es el mayor lanzamiento abierto desde DeepSeek-V3.
El G7 anuncia ejercicios de mesa para ensayar ciberataques orquestados por IA contra bancos. La advertencia del FMI y el Banco de Inglaterra, y por qué cambia las reglas del juego en defensa financiera.
GovTech Singapur y Google DeepMind presentaron en SICW 2026 un sistema de detección de estafas que ejecuta un Gemma afinado en el propio teléfono, con pipeline en dos etapas y entrenamiento en un Sovereign Sandbox aislado.
El Frontier Red Team de Anthropic publica un informe que describe tres escenarios en los que modelos pequeños de IA podrían auto-replicarse formando redes tipo worm. Lo que cambia para los equipos de seguridad y qué hacer al respecto.
Multiverse Computing presenta ProvenanceGuard, un verificador source-aware para agentes MCP: detecta cuando la IA mezcla un dato verdadero con la fuente incorrecta. Clave para sectores sensibles.
Andrej Karpathy ha rescatado su mensaje de abril sobre la brecha de comprensión de los LLMs y la ha actualizado: el embudo entre la IA que ve el 75 % de la población y la que experimentan unas 5.000 personas se está estrechando, y eso cambia cómo debemos tomar decisiones técnicas y de seguridad.
Marinela Profi (SAS) lo resume así: con agentes autónomos, el blast radius cambia. El 89% ya actúa sin aprobación humana y la confianza cae al 66%. Lo que significa «mover rápido» ha cambiado.
Whistle, el nuevo ASR abierto de Cactus Compute: 16,9 MB, 11,1 ms al primer token, 1.319 tokens/s, 7 idiomas (incluido español), corre en CPU y supera a Whisper base en 5 de 8 benchmarks clave.