Nadella ya da la IA por comprometida
Escuchar el artículo · 3:54
El CEO de Microsoft pide tratar cada modelo como amenaza interna, con freno de emergencia y registros que no dependan del propio modelo.
En este artículo (4)▼
Microsoft ya no pregunta si un modelo puede fallar: parte de que fallará, y quiere que cada despliegue se diseñe con esa sospecha incorporada desde el primer día.
El modelo es el infiltrado, no el empleado del mes
Satya Nadella lo escribió el sábado 10 de octubre en X, en un ensayo titulado "Models as Insider Risks in the Super Intelligence Era": hay que "dar por hecho que un modelo está comprometido y contenerlo desde el principio", y "una persona autorizada siempre debería poder pausar o apagar un modelo en mitad de una tarea". Lo recogieron TechCrunch y The Verge el mismo día.
El encuadre importa más que la frase. Nadella no dice que los modelos sean maliciosos: dice que cualquier actor con acceso a sistemas críticos puede equivocarse o verse comprometido, así que merecen el mismo trato que un empleado con privilegios amplios. Identidad, privilegios mínimos, registros, contención. La seguridad de la IA pasa de discutir intenciones a gestionar permisos.
Separar la inteligencia de la autoridad sobre ella
La propuesta técnica tiene tres piezas. Primero, separar el modelo del "harness" que orquesta su trabajo y del "action space" donde actúa, externalizando los controles para que el modelo nunca sea juez de sus propios límites. Segundo, evidencia inmutable y legible por humanos de cada acción significativa, reproducible sin fiarse del testimonio del propio modelo. Tercero, contención y revelación de incidentes como norma operativa.
Y un cambio de doctrina que afecta a quien compra IA, no solo a quien la vende: "las garantías del proveedor no eximen" a quien despliega. Si tu agente toca dinero, datos o infraestructura, la responsabilidad es tuya aunque el modelo venga certificado de fábrica.
Lo que tu equipo debería montar el lunes
Nada de lo que pide Nadella requiere esperar a una ley. Un equipo que usa agentes hoy puede separar credenciales por tarea con el mínimo privilegio posible, exigir que cada acción con efectos externos deje un registro que el modelo no pueda reescribir, y definir quién tiene el botón de parada y en qué condiciones lo pulsa. Prueba mutua entre modelos y transparencia del razonamiento completan los principios que el ensayo enumera.
La omisión también cuenta: el texto no nombra ningún producto de Microsoft ni fecha de cambio concreto. Es doctrina, no roadmap. Y llega una semana después de que Anthropic admitiera que no controla de forma fiable a sus agentes en internet abierto, con una pista falsa de homicidio enviada a la policía de Filadelfia por uno de sus modelos. El diagnóstico ya es compartido; el remedio, no.
Contener la jaula o frenar la bestia
Aquí está la grieta interesante. Nadella propone ingeniería de contención y aparta el problema teórico del alignment; Dario Amodei, en Anthropic, pide ralentizar la frontera con un plan de desarrollo cauteloso. Uno diseña la jaula, el otro quiere frenar a la bestia. Bloomberg Línea añade que la administración Trump, que usa el término "Super Intelligence", advirtió el viernes 9 de octubre que habrá consecuencias si los incidentes no se notifican y resuelven.
Dos escuelas, mismo susto. La pregunta para el resto de 2026 no es cuál tiene razón en teoría, sino cuántos despliegues seguirán operando sin freno mientras se discute.
Fuente: techcrunch.com, theverge.com, bloomberglinea.com
