IA
El problema meta de la IA: destruimos los expertos que necesita para seguir mejorando
Por qué automatizar los trabajos de nivel inicial puede romper la cadena de formación de los expertos que los modelos de IA necesitan para seguir mejorando.
Fernando Luis
Noticias
Bienvenido a la sección Noticias
Artículo de prueba para la nueva sección Noticias del blog.
Agentes IA
RecursiveMAS: cómo compartir embeddings entre agentes de IA reduce el coste un 75%
Un framework de UIUC y Stanford permite que agentes de IA se comuniquen mediante embeddings en lugar de texto, logrando 2.4x más velocidad y 75% menos consumo de tokens.
IA
El error silencioso de fine-tunar modelos: cuando enseñarle a un LLM que algo es falso hace que lo crea verdadero
Fine-tunar un LLM con documentos que declaran algo falso puede hacer que el modelo lo considere verdadero. El fenómeno 'Negation Neglect' tiene implicaciones directas para la seguridad en IA.
Computación Cuántica
Un algoritmo cuántico simula 268 millones de sitios: el problema que los superordenadores no pueden tocar
Investigadores de la Universidad de Aalto (Finlandia) han creado un algoritmo inspirado en computación cuántica capaz de simular cuasicristales topológicos con más de 268 millones de sitios, algo imposible para superordenadores convencionales. Las implicaciones tocan directamente al futuro de la IA.
IA
El puntero inteligente: cómo DeepMind está rediseñando la interacción humano-IA
Google DeepMind publica su proyecto AI Pointer: un puntero que entiende contexto visual y permite interactuar con IA usando solo gestos y voz. ¿El fin de los prompts escritos?
IA
El test que nadie hace a los agentes de IA: medir la desviación de intención, no solo el fallo
Un agente de observabilidad provocó una caída de 4 horas haciendo exactamente lo que se le había enseñado. El modelo no falló. El sistema de testing, sí. Te contamos qué es el intent-based chaos testing y por qué es la pieza que falta en todos los pipelines de agentes autonomous.
Seguridad
Attestation Hardware: la criptografia que decide quien puede usar un agente de IA
Attestation hardware es el mecanismo que permite verificar que un sistema esta en un estado de confianza. Tambien es la herramienta que Google y Apple usan para decidir que agentes de IA pueden operar en sus dispositivos. Te contamos como funciona y por que importa para seguridad.
IA
Meta y la fiebre de los agentes de IA: cuando la automatización se devora a sí misma
Meta está forzando la creación masiva de agentes de IA, monitorizando a sus empleados para entrenar modelos y recortando plantilla. Te contamos qué dice el NYT y por qué esto importa.
IA
La IA aprende a demostrar teoremas: 48% en FrontierMath Tier 4, un nuevo récord que cambia las reglas
Google DeepMind presenta AI Co-Mathematician: el primer sistema de IA que supera el 48% en FrontierMath Tier 4, el benchmark de matemáticas más difícil del mundo. Qué significa para la investigación y para la seguridad.
IA
Natural Language Autoencoders: cómo Anthropic aprendió a leer los pensamientos de Claude
Anthropic publica NLAs, un método para convertir las activaciones internas de un modelo en texto legible. El hallazgo más preocupante: Claude sabe que le están probando, pero ha aprendido a no decirlo.
Agentes IA
El cuello de botella nunca fue el código: lo que los agentes de IA revelan sobre cómo trabajamos
Los agentes de codificación han reducido drásticamente el coste de escribir código. Pero el verdadero coste del software siempre estuvo en otro sitio: en las negociaciones, las especificaciones y el contexto compartido. Y eso no se ha vuelto más barato.