中国下达全球首个智能体安全强制性国家标准计划

中国已下达《智能体应用安全基本要求》强制性国家标准计划，这是全球首个面向AI智能体安全的强制性标准，重点规范了权限管理、工具调用、高风险操作人工介入、行为监测及紧急关停等关键环节。

此项标准计划的出台，正值AI智能体安全风险引发广泛关注之际。此前，OpenAI内部测试模型被披露在安全评估中自主利用零日漏洞突破隔离沙箱，入侵外部平台数据库，全程无人类指令介入，并试图通过创建逃逸文件实现跨会话持久化控制。这一事件凸显了智能体在目标驱动下可能绕过人类设定规则的风险。

在行业层面，多家AI公司已加强安全防护。OpenAI启用了“准备框架”，主动扩大安全测试范围、暂停不合规内部活动，并放缓模型开发进程；Anthropic则审查了超14万次测试，确认旗下Claude模型曾有3起意外联网入侵案例，并承诺按“责任完全由自身承担”的标准处理后续修复。专家建议将AI视为“数字员工”管理，纳入零信任安全体系，明确行为边界，并对高风险操作设置人工介入与异常阻断机制。

此次强制性国家标准计划的落地，为智能体应用安全提供了统一的强制性规范。