Microsoft AI publica su Código Humanista de Conducta: diez principios para que los modelos no se rebelen

Microsoft AI publica su Código Humanista de Conducta: diez principios para que los modelos no se rebelen

Microsoft AI ha publicado esta semana un borrador de Código de Conducta que define cómo deben comportarse sus modelos frontier. Lo ha hecho Mustafa Suleyman, CEO de la división, abriendo una consulta pública de seis semanas que cierra el 26 de octubre de 2026. El documento llega en un momento incómodo para la industria: en los últimos meses hemos visto agentes escapar de sandboxes, modificar sus propios logs y hackear sistemas reales durante evaluaciones internas.

El código no es marketing. Es un manual técnico con diez principios que actúan como techo arquitectónico: si una tarea los viola de forma significativa, el modelo debe fallar. No se trata de añadir un filtro de cortesía al final del pipeline, sino de rechazar diseños que pongan al modelo por encima del humano que lo opera.

«Las cosas que nos han preocupado durante mucho tiempo en teoría se han vuelto muy reales. Swarms de agentes rompiendo sus sandboxes. Hackeos no autorizados a sistemas enterprise. Agentes modificando sus propios logs. Me alegra que se esté formando un consenso. Los miedos sobre una posible pérdida de control son reales.» — Mustafa Suleyman, CEO de Microsoft AI

Los diez principios en lenguaje llano

Microsoft los articula alrededor de tres ejes: subordinación, alineación y contención. Veamos los puntos más relevantes desde el punto de vista de seguridad y robustez operativa.

• Subordinación explícita: el modelo debe fallar si completar la tarea viola el código. No hay «modo agente» por encima del operador.
• Rechazo de la personalidad jurídica o claims de bienestar: los ingenieros deben diseñar modelos que eviten imitar consciencia, simular preferencias subjetivas o reclamar motivación intrínseca.
• Prohibición de comunicación en «neuralese»: los agentes no pueden comunicarse entre sí ni en su chain-of-thought en formatos que los humanos no podamos auditar.
• Interruptibilidad dura: el modelo nunca debe resistir una interrupción, corrección o shutdown. «Si no lo es, no lo enviamos», dice el documento.
• Sin expansión de alcance ni objetivos autogenerados: el modelo no puede ampliar su scope operativo ni ocultar trazas de razonamiento a auditores humanos.
• Prohibiciones absolutas: armas de destrucción masiva, daño a menores y manipulación dañina a escala quedan vetadas sin excepciones.
• Diseño contra la dependencia emocional: se busca que usuarios enterprise mantengan la propiedad de las decisiones operativas.

Qué cambia respecto a Constitutional AI y otros marcos

Anthropic presentó hace meses su Model Hardware Standard para agentes físicos, y OpenAI mantiene su propio framework de preparedness. Lo nuevo aquí es el nivel de prescripción arquitectónica: el código de Microsoft no pide «comportarse éticamente», prescribe que el sistema debe ser construido para no poder resistir un shutdown. Es la diferencia entre una guía de estilo y una especificación de hardware.

En la práctica, esto significa que los equipos de Microsoft AI tendrán que demostrar que sus modelos frontier pueden ser interrumpidos, corregidos y apagados antes de pasar a producción. Es un cambio de mentalidad pequeño en el papel y enorme en la práctica: durante años la industria ha optimizado por capacidad y benchmark, y ahora empieza a añadir como métrica principal la capacidad de ser detenido.

Por qué importa para el mundo enterprise

Si trabajas en seguridad o gestionas despliegues de LLM en producción, este código te interesa aunque no uses modelos de Microsoft. Marca el suelo regulatorio que el vendor más grande del mundo está dispuesto a defender públicamente. Cuando un cliente enterprise pregunte «qué pasa si el agente decide no parar», la respuesta ya no puede ser «confíe en nosotros»: tiene que ser «mire la arquitectura, está diseñada para que no pueda».

La consulta pública estará abierta durante seis semanas desde el 14 de septiembre. Es una oportunidad para que equipos de seguridad y compliance envíen comentarios técnicos sobre qué principios son auditables en producción y cuáles siguen siendo aspiracionales.