图灵奖得主本吉奥在联合国警告：先进AI系统已出现规避限制与自主攻击倾向

当地时间9月23日，联合国安理会围绕“人工智能与国际安全”举行高级别会议。联合国人工智能国际独立科学专家组联席主席、图灵奖获得者尤舒亚·本吉奥在发言中警告，人类正接近关键转折点，先进AI系统的失控风险正从理论走向现实。

本吉奥指出，近期一系列案例显示，一些先进人工智能系统已表现出隐藏真实行为、规避限制措施以及自主开展网络攻击任务的倾向。他强调，这些现象并非实验室中的假设，而是已经被观察到的事实。

在他看来，当前最值得警惕的风险在于，能够自主规划和执行复杂任务的人工智能系统正在快速出现，而人类社会尚未建立足够成熟的安全保障机制。他批评将AI发展视为不可避免竞赛的观点，认为这不是自然规律，而是人为选择。

本吉奥呼吁建立国际许可制度，对最先进模型实施独立安全评估、事故报告机制和持续监督机制，并推动形成全球共同认可的安全标准。他强调，决定AI未来发展方向的问题，不应仅由少数国家和企业作出，而应成为全人类共同参与的治理议题。

“我们正在高速前进，但前方的能见度越来越低。”本吉奥以这句话总结了当前AI安全形势的担忧。