微软上线Guardian Agents安全功能,监控企业AI代理防范内部威胁
2026年10月19日,微软推出新的安全功能Guardian Agents,用于监控企业使用的AI代理,以防范内部威胁。该功能属于Project Perception产品线,后者于2026年6月推出,最初包含红队、蓝队、绿队三类代理,分别负责模拟攻击、检测漏洞和修复问题。
微软CEO萨蒂亚·纳德拉此前警告称,企业应停止信任AI模型提供商,即使后者为其智能体产品提供安全承诺。他主张企业部署独立于AI实验室的系统,用来监视和控制这些实验室产品所运行的代理。微软安全业务负责人Hayete Gallot在发布Guardian Agents时表示,前沿模型无论来自何处都不可信任,原因并非它们带有恶意或容易被入侵,而是因为它们不可预测,且常常被授予访问敏感数据和关键工具的权限。
除Guardian Agents外,微软还在Microsoft Defender中加入了代理检测功能,可识别员工带入工作场所的多达60种代理,包括Claude Code、Codex和OpenClaw,并新增了限制代理访问数据和系统、根据任务动态调整代理权限的能力,当代理看起来在做出风险决策时要求人工审批。
将代理视为不可信内部人员的思路正在业界扩散。微软是英伟达开放代理安全平台的创始成员之一,该平台已获得超过100家科技公司支持,通过将代理隔离在安全环境中,借助硬件监控和阻止其行为。
- 2026-10-20 06:04 | TechCrunch:Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’阅读原文
Microsoft on Monday introduced new security features designed to protect enterprises from the growing threat of AI agents. The launch comes at Microsoft continues to warn enterprises about the dangers of AI and agents. Perhaps the most notable addition is Guardian Agents, a new feature intended to...