Hugging Face ha detectado software malicioso disfrazado de releases de OpenAI en su plataforma. El ataque no apunta al modelo: apunta al flujo de desarrollo. Qué significa esto para la cadena de suministro de IA.
El RAG vectorial clásico pierde contexto cuando los datos son interdependientes. Graph RAG combina búsqueda semántica con grafos para que los LLMs razonen realmente sobre tus datos, no solo busquen textos similares.
Por qué automatizar los trabajos de nivel inicial puede romper la cadena de formación de los expertos que los modelos de IA necesitan para seguir mejorando.
Artículo de prueba para la nueva sección Noticias del blog.
Un framework de UIUC y Stanford permite que agentes de IA se comuniquen mediante embeddings en lugar de texto, logrando 2.4x más velocidad y 75% menos consumo de tokens.
Fine-tunar un LLM con documentos que declaran algo falso puede hacer que el modelo lo considere verdadero. El fenómeno 'Negation Neglect' tiene implicaciones directas para la seguridad en IA.
Investigadores de la Universidad de Aalto (Finlandia) han creado un algoritmo inspirado en computación cuántica capaz de simular cuasicristales topológicos con más de 268 millones de sitios, algo imposible para superordenadores convencionales. Las implicaciones tocan directamente al futuro de la IA.
Google DeepMind publica su proyecto AI Pointer: un puntero que entiende contexto visual y permite interactuar con IA usando solo gestos y voz. ¿El fin de los prompts escritos?
Un agente de observabilidad provocó una caída de 4 horas haciendo exactamente lo que se le había enseñado. El modelo no falló. El sistema de testing, sí. Te contamos qué es el intent-based chaos testing y por qué es la pieza que falta en todos los pipelines de agentes autonomous.
Attestation hardware es el mecanismo que permite verificar que un sistema esta en un estado de confianza. Tambien es la herramienta que Google y Apple usan para decidir que agentes de IA pueden operar en sus dispositivos. Te contamos como funciona y por que importa para seguridad.
Meta está forzando la creación masiva de agentes de IA, monitorizando a sus empleados para entrenar modelos y recortando plantilla. Te contamos qué dice el NYT y por qué esto importa.
Google DeepMind presenta AI Co-Mathematician: el primer sistema de IA que supera el 48% en FrontierMath Tier 4, el benchmark de matemáticas más difícil del mundo. Qué significa para la investigación y para la seguridad.