全国首个生成式AI安全检测公共服务平台“智测能手”在本届国家网络安全宣传周上海地区活动开幕式上亮相。该平台由上海市信息安全测评认证中心牵头建设，在市委网信办、市经信委指导下完成，面向企业提供大模型安全测评、AIGC标识验证、AIGC内容检测及智能代码审计等服务。相关单位可借此快速排查AI应用风险，满足合规要求。
叶晓虎在分论坛上指出，AI及智能体技术正推动网络安全运营范式跃迁，攻击侧大模型驱动智能体能力提升，防御侧需构建自主规划、决策、演进的体系，并提出需联合大模型厂商构建开放生态。
黄殿中在启动仪式上作主旨演讲，指出AI智能体已走向自主执行，建议建设“高保真仿真智能体工厂”，将行为、权限等边界设为可测评指标，先仿真训练再真实落地。
2026年国家网络安全宣传周启动，AI安全治理是聚焦重点。参展商技术人员康雨辰在济南体验区展示智能客服场景中AI智能体因提示词攻击导致数据泄露的风险，并介绍数据存储、指令执行、技能调用等全流程安全风险及设置关键词、敏感信息清单等防护措施。
9月14日，全国网络安全标准化技术委员会在2026年国家网络安全宣传周开幕式上发布《人工智能安全治理框架3.0》，延续“风险分类、技术应对、综合治理”逻辑，更新风险分类并优化应对措施。
论坛由上海市委网信办、徐汇区委主办。徐汇区委常委陈怡群、市委网信办副主任杨海军致辞，强调AI安全治理。谷大武、李宏达、胡绍勇作主题分享，并举行圆桌讨论。现场为ISG网络安全技能竞赛及长三角网络安全攻防大赛优胜者颁奖。
2026年国家网络安全宣传周于9月14日至20日举行，开幕式、高峰论坛在济南举办。14日上午，安恒信息副总裁杨波接受采访时建议，用AI赋能城市级安全防御，常态化开展渗透测试，定期进行系统审计，建立AI联防联控体系。
论坛汇聚政产学研用各界专家，围绕人工智能安全、关键信息基础设施防护等议题研讨。王小云介绍基于零知识证明的图像认证技术，2.8秒可判定图片是否AI生成；云晓春、李彤、季明彬、苗守野、杨晓宁、朱文雷等分别就AI供应链安全、身份认证、电力防护、主动免疫、AI对抗AI等发表观点。
中央网信办网络安全协调局副局长王丽宏在2026年国家网络安全宣传周新闻发布会上介绍，当前人工智能领域主要面临5方面安全风险挑战：技术先天脆弱性、模型能力跃迁带来的极端失控风险、应用形态演进带来的安全风险迭代、误用滥用恶用风险，以及全球技术霸权风险。