纳德拉要求企业将 AI 视作内部风险，并为 Agent 预留急停机制

微软 CEO 萨蒂亚·纳德拉发长文表示，企业应把 AI 模型当作内部安全风险管理对象。按他的说法，模型即使本身没有恶意，也可能出错，或被攻击者利用。

他提到，尤其是在模型能够读取敏感数据、代替人员执行关键操作的情况下，企业不能只依赖模型厂商给出的安全承诺。

模型与 Agent 执行框架应分开控制

纳德拉要求，将模型与用于调度任务的 Harness，也就是 Agent 执行框架，分开处理。模型可以读取哪些数据、能够调用哪些工具，应由外部系统控制，而不是交给模型自行决定。

对于每一次关键操作，他还要求留下防篡改、便于人工审查的记录。

思维链需透明，但不能被视为可靠依据

纳德拉还提出，模型的思维链，也就是展示出的推理过程，应保持透明。不过他同时承认，这些内容未必可靠。

部署时就要假定模型可能被攻破

在更强硬的要求上，纳德拉称，企业从部署阶段起就应假定模型可能遭到入侵，并提前做好隔离措施。授权人员必须能够在 Agent 执行任务时随时暂停或关闭它，相当于为系统装上「紧急刹车」。

他还表示，模型不能自己审核自己的行为，企业需要持续测试故障和攻击场景，并及时披露事故。

微软本月已宣布 MXC 隔离工具正式可用

微软本月已宣布，MXC 隔离工具在 Windows 上正式可用。该工具通过外部策略限制 Agent 可访问的文件和网络。