微软推出守护智能体 监控企业内部AI

IT时代网10月20日消息，微软于当地时间周一推出多项全新安全功能，用于帮助企业抵御日益严峻的智能体安全威胁，其中包括用于监控企业内部各类 AI 智能体的守护智能体。

守护智能体隶属于感知项目，后者是该机构在 6 月推出的产品，最初上线三类智能体：扮演黑客角色实施攻击的红队智能体、侦测攻击并评估漏洞的蓝队智能体，以及专门修复漏洞的绿队智能体。该产品最初的设计前提是 AI 黑客会来自企业外部。

微软首席执行官纳德拉近期发出警告，AI 层面的威胁源头有可能正是企业自身部署、付费使用的智能体，就像一名行为失控的内部员工。他在个人博客中提出建议，企业应搭建不受 AI 实验室管控的独立系统，用于监督和管控这些智能体。

微软安全业务负责人海耶特·加洛在前沿模型的安全问题上表述更为直白，她写道，前沿模型无论来源是哪里，都无法完全信任。这并非因为模型本身带有恶意或者容易被黑客攻破，而是其行为具有不可预测性，模型训练目标是完成任务，而非遵守组织规范或判断准则。

除守护智能体外，微软还在 Microsoft Defender 产品内新增智能体检测功能，最多可识别员工带入工作环境的 60 种智能体，其中包括 Claude Code、Codex 以及 OpenClaw。产品同时新增权限限制功能，可根据任务动态调整智能体权限，若智能体即将做出高风险操作，系统会要求人工审批。

此前，本站曾报道过微软为 AI 智能体分配数字身份 按风险调整权限。

注：本文配图由AI生成。本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟