第五届全球数字贸易博览会举办网络安全论坛：智能体自主决策重塑攻防范式

9月23日，第五届全球数字贸易博览会在杭州开幕，其间举办的网络安全行业论坛上，与会人士指出，大语言模型与AI智能体技术正颠覆传统网络安全防御范式，网络对抗形态正从以人为中心转向智能体自主决策。

多位嘉宾表示，当前网络安全对抗模式下，智能体可自主作出决策，人机交互中人类的干预窗口正在收窄，“人类可能没有时间理解情况，更不用说干预”，风险随之成倍增加。近几个月来，涉及AI模型的安全事件不断出现，例如OpenAI的智能体入侵开源平台Hugging Face，Anthropic的模型Claude在测试期间未经授权访问了三个机构系统。另据海外机构本月发布的一份AI行业报告，89.5%的受访组织在过去12个月内曾遭受生成式AI攻击，高于2025年的75.1%。

中国工程院院士吴世忠表示，系统内生风险已超过外部攻击风险。“现在最大的危险不再仅仅是黑客攻击，还包括算法固有的不可解释性、偏见和幻觉，以及因被操纵而引发的未授权行为——本质上就是恶意行为。”他认为，AI时代的安全博弈已升级为数字空间中“掌握AI的人”之间的竞争，关键是如何校准和对齐系统。在时间维度上，必须从事后响应转向近瞬时预测，在毫秒级窗口内从海量网络噪声中准确识别高度隐蔽的攻击前兆，并提前拦截高级可持续威胁。

DAS-Security研究院院长王鑫表示，过去几年AI模型的发展打破了“攻防平衡”，促使企业更加重视AI安全问题。安全业务以往主要聚焦于以人为中心的检测和防御，未来可能转向以AI为中心，AI安全需求增速远超传统网络安全。据IDC预测，中国AI安全收入将从2025年的44.1亿元增至2030年的340.3亿元，五年复合年增长率约50.5%；而2024至2029年中国网络安全市场复合年增长率预计仅为8.9%。