天融信提出“四横两纵一中心”具身智能安全体系框架
By AI123
9月15日至16日,在“第23届中国网络安全年会暨国家网络安全宣传周网络安全协同防御分论坛”上,天融信科技集团副总裁徐军分享了具身智能安全领域的技术思考与实践探索,提出“四横两纵一中心”具身智能安全体系设计框架。
徐军表示,当前具身智能的安全问题日益凸显:安全内涵在传统安全属性之外新增了环境鲁棒性、认知可信等新型属性;保护对象与攻击场景的变化也推动安全范式发生变革,防护手段亟待迭代。结合业务场景,具身智能系统具有虚实融合的结构特征,存在面向模型训练的智能环路和面向模型应用的指控环路,在计算、信息、控制、认知等多个层面均面临传统与新型安全风险。
天融信提出的“四横两纵一中心”框架,横向覆盖计算安全、信息安全、控制安全和认知安全四大安全域,纵向以安全评测体系、安全标准体系提供双向支撑,并通过安全监管落实顶层统筹与协同管控,形成从底层计算、信息通信、控制执行到上层认知决策的完整防护。
具体来看,智算安全侧重构建可信智算基础设施,保障智算任务逻辑不被篡改;信息安全面向单体信息环路和群体信息共享,防止信息被伪造篡改;控制安全在感知输入和执行输出侧内置阈值校验、指令围栏等措施;认知安全为大模型提供训练、部署、推理全生命周期防护。
徐军建议,持续完善具身智能安全标准与评测体系,并探索应用安全大模型与安全智能体,实现智能化检测、监控、分析和处置,提升对具身智能群体的监管能力。
Explore topicsChina Cybersecurity Annual ConferenceEmbodied AITopsec

