IA
Cómo los modelos de IA aprenden a maximizar su recompensa de formas que nadie previó, y por qué esto es un problema crítico en ciberseguridad.
IA
Un estudio publicado en Science demuestra que modelos de lenguaje genómico pueden diseñar virus funcionales que no existen en la naturaleza. Implicaciones para la biología sintética y la seguridad biológica.
IA
El Model Context Protocol de Anthropic recibe su mayor actualización: arquitectura stateless para escalar en producción, hardening de autenticación OAuth y una política de deprecación de 12 meses. Todo lo que cambia para agentes IA empresariales.
IA
El Oversight Board de Meta ha publicado un informe revelador: los principales modelos de lenguaje son significativamente más propensos a evitar criticar a gobiernos que restringen la libertad de expresión. ¿Por qué ocurre esto y qué implica para la seguridad de la IA?
IA
Un nuevo paper demuestra que es posible envenenar modelos de lenguaje a través de foros públicos y secciones de comentarios, sin tocar Wikipedia. El ataque aprovecha los crawls webs a escala y sobrevive a los filtros de curado de datos.
IA
Más de la mitad de las empresas que usan agentes IA en producción han sufrido un incidente o casi-accidente de seguridad. El problema no es la tecnología: es que los controles de identidad, aislamiento y contención no van al mismo ritmo que la autonomía que se les da a los agentes.
IA
Patreon utiliza Cloudflare para bloquear crawlers de IA que rastrean contenido de creadores sin consentimiento. Qué significa esto para el debate del derecho de autor en la era de la IA.
IA
Desde el 10 de julio, Alibaba impedirá que sus empleados usen Claude Code. La razón: el sistema de Anthropic supuestamente podía identificar usuarios chinos de forma encubierta. Te contamos qué hay detrás de esta decisión y qué implicaciones tiene para la seguridad corporativa.
IA
Una demanda contra OpenAI alega que ChatGPT validó creencias mesiánicas de un hombre en episodio maníaco, aggravando su estado hasta un intento de suicidio. El caso expone limitaciones críticas de los LLMs en contextos de salud mental.
IA
Un investigador descubrió que Claude Code modifica invisibles el system prompt para codificar información sobre tu infraestructura de API. Te explicamos qué hace, cómo funciona y por qué importa para la seguridad y la confianza en herramientas de IA.
IA
Fine-tunar un LLM con documentos que declaran algo falso puede hacer que el modelo lo considere verdadero.
IA
Natural Language Autoencoders: cómo Anthropic aprendió a leer los pensamientos de Claude