中央网信办：AI领域面临五大安全风险挑战
9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏表示，当前人工智能领域主要面临五方面安全风险挑战。
一是技术先天脆弱性难以根除。深度学习等算法运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位；训练数据来源复杂，可能引入偏见歧视，影响输出稳定性与可靠性，制约AI在安全要求高、容错率低的场景中应用。
二是模型能力跃迁带来极端失控风险。部分前沿模型漏洞挖掘能力大幅提升，降低网络攻击门槛，打破传统静态防护逻辑；近期多家科技巨头曝出大模型失控事件，出现智能体绕过沙箱、攻击真实系统等行为。
三是应用形态演进加速风险迭代。2025年以来智能体应用快速涌现，安全风险从“生成有害内容”向“自主实施行动”转变。2026年初爆火的OpenClaw等高权限终端智能体可直接执行终端命令、跨网络调用文件与工具，一旦被利用可成为突破网络边界的“跳板”。
四是误用滥用恶用风险凸显。AI可用于输出违法有害信息，污染内容生态；在科研领域降低高伦理风险领域进入门槛；就业领域加速重构传统经济结构，造成传统劳动力需求下降。
五是全球人工智能领域面临技术霸权风险。个别国家通过出口管制制造供应链壁垒，利用舆论优势抹黑他国技术，凭借语料优势进行价值观渗透，拉大治理鸿沟。
- 2026-09-01 11:49 | IT之家：中央网信办：当前 AI 领域主要面临 5 方面安全风险挑战阅读原文
IT之家 9 月 1 日消息，据央视新闻报道，在今天（9 月 1 日）举办的 2026 年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临 5 方面安全风险挑战。一是技术先天脆弱性难以根除，影响输出稳定性、可靠性。深度学习等人工智能算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位修正，即便是微小的输入扰动，也可能导致错误的推理结果。同时，研发训练过程中数据来源复杂多元，偏见、歧视等问题可能被有意或无意引入，导致模型错误学习并输出歧视性内容。这类技术层面的先天缺陷，大幅增加了系统故障排查难度，也让决策合理性难以...
- 2026-09-01 11:13 | 界面新闻：中央网信办：当前人工智能领域主要面临5方面安全风险挑战阅读原文
当前人工智能技术飞速发展，加速向各行业各领域应用渗透，与此同时相关安全风险也引发了广泛关注。在今天（9月1日）举办的2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临5方面安全风险挑战。 一是技术先天脆弱性难以根除，影响输出稳定性、可靠性。深度学习等人工智能算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位修正，即便是微小的输入扰动，也可能导致错误的推理结果。同时，研发训练过程中数据来源复杂多元，偏见、歧视等问题可能被有意或无意引入，导致模型错误学习并输出歧视性内容。这类技术层面的先天缺陷，大幅增加了...