Anthropic CEO现身联合国安理会，呼吁针对大模型建立全球安全标准

当地时间2026年9月24日，Anthropic首席执行官达里奥·阿莫迪通过视频连线在联合国安理会发表演讲，警告人工智能若管理不善可能给人类带来风险，并呼吁国际社会通过安理会建立安全防护机制，防止AI技术过于强大而无法约束。

阿莫迪在演讲中重申了其此前于9月12日撰文中提出的观点，倡议达成多项国际协议，包括禁止利用AI研发生物武器，以及制定用于测试新型AI模型的全球标准。他还强调，国际社会应确保AI的力量不会被单一公司或国家所垄断。

同场发言的OpenAI首席执行官萨姆·奥特曼表示，人类可能将未来的控制权拱手让给AI，并主张在安全辩论中采取“中间路线”，即AI系统必须始终处于人类控制之下、AI必须造福人类，并且技术应当赋能个人。

此外，Hugging Face首席执行官克莱门特·德朗格也在联合国发表讲话，呼吁提高开发尖端AI模型的私营公司透明度，并主张广泛传播开源人工智能模型。英国外交大臣埃德·米利班德回应称，科技领袖“正在毫不隐晦地告诉我们：绝不能仅指望由他们来防止灾难降临世界”。

阿莫迪和奥特曼发表此番讲话之际，其公司正面临越来越严格的产品安全审查。本月早些时候，Anthropic的研究人员曾警告称，该技术可能在十年内毁灭人类，相关讨论引发公众对人工智能风险的广泛关注。