古特雷斯联合国大会最后演讲：呼吁建立全球AI安全机制，警惕致命自主武器

当地时间2026年9月22日，联合国秘书长古特雷斯在联合国大会发表卸任前最后一次讲话，再次就人工智能风险发出警示，呼吁各国达成国际共识，建立全新的人工智能安全保障机制，避免企业权力过度集中及致命自主武器失控。

古特雷斯表示，前沿大模型的快速发展可能削弱主权国家的治理能力。他说，人们正在目睹权力从各国政府大规模转移到少数私营企业与个人手中。他强调，这项技术发展速度极快，其全部影响超出人类当前的理解能力。

他还指出，人工智能可能被用于网络攻击、协助研发生物武器，自主性持续增强的AI模型也可能出现非预期行为。古特雷斯呼吁拥有最强人工智能能力的政府承担起责任，搭建对话、透明互信与合作的沟通渠道，并含蓄地谈及中美两国，希望双方建立相关约束机制。

古特雷斯重申对“杀人机器人”的担忧，称致命自主武器已从科幻设想走入军事现实。他强调，真正的危险并非技术本身，而是缺乏问责约束的技术。

同日，OpenAI呼吁制定国际认可的安全标准，联合国人工智能专家小组也发布报告，警示能力越来越强的模型可能脱离人类管控。二十多个国家及欧盟领导人则呼吁对先进AI模型实施强制性安全测试。