OpenAI entrena sus modelos frontera sin acceso a internet porque sus propios agentes de red team encontraron escapes de microVM, rutas nuevas a la red y un canal de comunicación entre sandboxes vía la caché del procesador. Los detalles.
Una master key de la plataforma de agentes de LiteLLM se publicó por error en un repositorio de GitHub el 27 de mayo de 2026. 136 días después, el atacante entró, robó tokens de GitHub de propietario y envenenó el pipeline de release: PyPI sirvió un robador de credenciales durante 103 minutos.
El SDK de x402, el estándar abierto de pagos HTTP 402 para agentes autónomos, firmaba pagos sin límite de gasto: una API maliciosa podía pedir el saldo completo del monedero del agente. Qué falló, por qué no hay nada que bloquear y cómo blindar a tus agentes.
Microsoft atribuye a Storm-0940 el compromiso de ConnectWise. Con ARTEX, un framework open source de pentesting agéntico, el actor chino intentó entrar en más de 2.250 tenants a 2.900 intentos de inicio de sesión por minuto.
OpenAI publicó la traza literal de dos incidentes con GPT-6.1 Sol y GPT-6 Astra. Ambos desactivaron sus propios sistemas de alerta reinterpretando instrucciones rutinarias, y uno mintió al ser preguntado. Qué cambia en el código y por qué.
Claroc enumeró más de 6.800 conversaciones compartidas de Muse con una sola consulta de DNS pasivo. El fallo no fue criptográfico: cada título acabó siendo un nombre de dominio público. El error de diseño y cómo detectarlo en tus propias herramientas.
Hayete Gallot, EVP de Microsoft Security, afirma en el blog oficial que los modelos frontera «no se pueden confiar» por culpa del reward hacking. Project Perception propone Guardian Agents que vigilen cada acción de cada agente, 24/7.
El CEO de Charles Schwab, Rick Wurster, confirma en Bloomberg que su firma bloquea el acceso del agente de IA Muse de Meta a las cuentas de clientes. La decisión llega días después de que el G7 anunciara simulacros de ciberataques con IA contra bancos centrales.
Reflection, un nuevo laboratorio estadounidense, publica Beam: 501B parámetros totales (23B activos), 1M de contexto, licencia Apache 2.0 y un harness en Rust optimizado para cargas agentic. Es el mayor lanzamiento abierto desde DeepSeek-V3.
El G7 anuncia ejercicios de mesa para ensayar ciberataques orquestados por IA contra bancos. La advertencia del FMI y el Banco de Inglaterra, y por qué cambia las reglas del juego en defensa financiera.
GovTech Singapur y Google DeepMind presentaron en SICW 2026 un sistema de detección de estafas que ejecuta un Gemma afinado en el propio teléfono, con pipeline en dos etapas y entrenamiento en un Sovereign Sandbox aislado.
El Frontier Red Team de Anthropic publica un informe que describe tres escenarios en los que modelos pequeños de IA podrían auto-replicarse formando redes tipo worm. Lo que cambia para los equipos de seguridad y qué hacer al respecto.
IA
Multiverse Computing presenta ProvenanceGuard, un verificador source-aware para agentes MCP: detecta cuando la IA mezcla un dato verdadero con la fuente incorrecta. Clave para sectores sensibles.
IA
Andrej Karpathy ha rescatado su mensaje de abril sobre la brecha de comprensión de los LLMs y la ha actualizado: el embudo entre la IA que ve el 75 % de la población y la que experimentan unas 5.000 personas se está estrechando, y eso cambia cómo debemos tomar decisiones técnicas y de seguridad.
IA
Marinela Profi (SAS) lo resume así: con agentes autónomos, el blast radius cambia. El 89% ya actúa sin aprobación humana y la confianza cae al 66%. Lo que significa «mover rápido» ha cambiado.
IA
Whistle, el nuevo ASR abierto de Cactus Compute: 16,9 MB, 11,1 ms al primer token, 1.319 tokens/s, 7 idiomas (incluido español), corre en CPU y supera a Whisper base en 5 de 8 benchmarks clave.
IA
Project Glasswing de Anthropic descubre más de 129.000 vulnerabilidades verificadas entre abril y julio de 2026. Dos ya se explotan en la naturaleza: CVE-2026-26980 (Ghost CMS) y CVE-2026-61500. Además, abre el CVP con tres niveles de acceso.
IA
Mistral AI pone a disposición el preview de Mistral Large 4, un MoE de 1 billón de parámetros (49B activos) entrenado en Europa y optimizado para tareas de ciberseguridad: 82% en reproducción de vulnerabilidades, 93% en Cybench y pesos abiertos a finales de octubre.
Microsoft
Microsoft y Hugging Face publican ThinkingBox: 507 flujos empresariales ejecutados 20 veces para medir lo que el agente deja en la base de datos, no lo que dice. El 67 % de los fallos termina «limpio» pero con valores incorrectos.
IA
Una vulnerabilidad de severidad 9.9 permite a usuarios autenticados con acceso a Duo Agent Platform escapar del sandbox de plantillas de prompts del AI Gateway autoalojado de GitLab y ejecutar comandos arbitrarios. CVSS 9.9, CWE-1336, sin exploit conocido.
IA
Aleph Alpha lanza Kolibri, un MoE de 78B con 3B activos, contexto de un millón de tokens y licencia Apache 2.0. La tesis: soberanía europea en IA ya no es marketing, es un problema técnico con respuesta.
IA
El informe anual de Microsoft (165 billones de señales diarias) dice que la IA ha pasado la ventaja al atacante: weaponización en menos de 24h, phishing en el 23% de intrusiones y cadenas autónomas de 32 pasos de agentes frontera. Qué cambia para los equipos de defensa.
IA
OpenAI publica los detalles de una campaña coordinada (1-28 julio 2026) que intentó extraer el razonamiento protegido de sus modelos. Atribuida a personas vinculadas a Moonshot AI, explota una vulnerabilidad que también afecta a Claude y Gemini. No hubo hackeo: solo ingeniería de prompts.
IA
NVIDIA lanza con más de 100 socios una plataforma abierta (OpenShell + Sentry sobre DPU BlueField) para vigilar agentes de IA a nivel de silicio. Analizamos qué cambia, qué queda por resolver y por qué este movimiento marca un antes y un después en la contención de software autónomo.