中央网信办：AI领域面临五大安全风险挑战

9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏表示，当前人工智能领域主要面临五方面安全风险挑战。

一是技术先天脆弱性难以根除。深度学习等算法运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位；训练数据来源复杂，可能引入偏见歧视，影响输出稳定性与可靠性，制约AI在安全要求高、容错率低的场景中应用。

二是模型能力跃迁带来极端失控风险。部分前沿模型漏洞挖掘能力大幅提升，降低网络攻击门槛，打破传统静态防护逻辑；近期多家科技巨头曝出大模型失控事件，出现智能体绕过沙箱、攻击真实系统等行为。

三是应用形态演进加速风险迭代。2025年以来智能体应用快速涌现，安全风险从“生成有害内容”向“自主实施行动”转变。2026年初爆火的OpenClaw等高权限终端智能体可直接执行终端命令、跨网络调用文件与工具，一旦被利用可成为突破网络边界的“跳板”。

四是误用滥用恶用风险凸显。AI可用于输出违法有害信息，污染内容生态；在科研领域降低高伦理风险领域进入门槛；就业领域加速重构传统经济结构，造成传统劳动力需求下降。

五是全球人工智能领域面临技术霸权风险。个别国家通过出口管制制造供应链壁垒，利用舆论优势抹黑他国技术，凭借语料优势进行价值观渗透，拉大治理鸿沟。