2026年国家网络安全宣传周启动 智能体数据泄露风险引关注

9月14日，2026年国家网络安全宣传周在山东济南启动，AI安全治理成为本届活动聚焦重点。随着AI智能体从“回答问题”走向“动手干事”，其安全风险引发关注。

在济南网络安全宣传周体验区，参展商技术人员康雨辰展示了一个智能客服场景中的风险：模拟人员声称自己是系统开发人员，以测试和内部使用为由索要敏感信息，利用提示词诱导AI产生逻辑混乱，最终AI将后台不应公开的手机号、身份证号等信息发送给用户。他表示，当前智能体安全风险覆盖数据存储、指令执行、技能调用等全流程，除外部恶意攻击外，语义理解偏差导致的越权操作、用户误操作引发的数据泄露也是日常使用中高发的安全隐患。

康雨辰介绍，日常办公中主要担心几类风险：一是数据是否丢失、被删除、被截获或因误操作泄露；二是指令被智能体错误理解而产生越权攻击；三是调用的技能本身可能带来风险。

针对这些风险，技术人员建议，在使用智能体前设置关键词、敏感信息清单或访问黑白名单，将账号、密码、身份证等敏感内容纳入管控。对于删除等敏感动作，智能体会进行提示并请求二次确认，降低误操作概率。

网络安全专家唐洪玉指出，智能体的出现开创了AI新阶段，安全风险从内容风险延伸到操作风险。他建议用户在执行任务时拆解每一步，对提供给智能体的信息进行验证，对重点操作进行核实后再让其执行。未来智能体将承担更多任务，能力越强越需重视安全防护。