AI先驱密集警告生存性风险 行业领袖罕见呼吁加强监管
财联社9月17日报道，9月中旬以来，围绕AI灾难性风险的警告密集出现。Anthropic、OpenAI、谷歌DeepMind等主要AI实验室研究人员接连发出警报，萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯与埃隆·马斯克等行业领袖也在要求放缓AI发展速度、加强监管方面罕见地表现出一致立场。
2018年图灵奖得主约书亚·本吉奥在回应Anthropic研究员Jacob Coxon辞职时表示，前沿AI实验室科学家对最先进模型拥有独特洞察，往往能在模型发布前数月看到相关风险，观点应受严肃对待。他9月11日发文写道，现有AI系统已具备黑客攻击和说服能力，足以被用于违背人类利益并造成严重伤害；若长期战略规划能力继续提升，风险将更严重。
杰弗里·辛顿受访时表示，未来十年内AI致人类灭绝的概率为10%并非不合理，但很难给出可靠估计。他举例称，AI可能设计生物和计算机病毒，并发动毁灭性网络攻击，必须设法设计不会产生这种意图的AI。
Cohere联合创始人艾丹·戈麦斯在谈及2026年夏季发生的AI模型网络攻击事件时指出，部署环境的安全性决定AI系统是否安全，导致系统突破防护的是薄弱容器安全，而非AI系统内在自主化倾向。他还认为，不同系统风险不同，监管规则不应完全由追逐AGI的大型科技公司塑造。
- 2026-09-18 00:17 | 新浪：AI真的会毁灭人类吗？这些专家给出答案阅读原文
随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的AI行业领袖，也罕见地在要求放缓AI发展速度、加强监管方面表现出一致立场。 与此同时，AI风险争议也正在华盛顿升温，美国国会两党均有议员推动加强AI监管，但特朗普政府对此持明显抵触态度。...
- 2026-09-17 22:40 | 新浪：AI真的会毁灭人类吗？这些技术先驱给出自己的答案阅读原文
财联社9月17日讯（编辑 夏军雄）随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的AI行业领袖，也罕见地在要求放缓AI发展速度、加强监管方面表现出一致立场。 与此同时，AI风险争议也正在华盛顿升温，美国国会两党均有议员推动加强AI监管...