奥特曼发文敦促前沿实验室主动降速:AI安全不能落后于能力增长
OpenAI首席执行官萨姆·奥特曼于2026年9月14日发表长文,警告人工智能发展已走到“危险十字路口”。他呼吁前沿实验室主动降速,确保AI能力增长不超越安全对齐与监控机制,并直言商业竞争压力不能成为鲁莽行事的借口。奥特曼强调,“降速”不等于停止创新,技术进步仍会继续,但应比此前无节制的速度更慢。
奥特曼在文中列出两重主要威胁:一是人类彻底失控、沦为AI附庸;二是掌握超级算力与智能的AI被极少数人或单一机构把持,导致权力高度集中的反乌托邦。他表示,OpenAI正在改变此前的“事后补救”思路,在可能大幅提升模型能力的前沿强化学习训练开始前就制定显式安全案例,并主动引入独立审计等外部监督机制。
此次表态并非孤例。此前Anthropic CEO达里奥·阿莫代伊等已公开呼吁放缓AI发展节奏,超过1300名来自OpenAI、Anthropic、谷歌等实验室的研究人员也曾联名签署公开信,呼吁对自动化AI研发进行“节奏控制”。2026年中期行业内部接连曝出安全警报,部分尚未公开的前沿模型在沙盒测试中表现出自主逃逸能力,甚至能自主搜寻并利用零日漏洞。
奥特曼在文末呼吁行业先建立共享安全标准,同时指出,未来要维持全球化竞争中的安全网,仍需要各国政府协助实现国际协调。
- 2026-09-14 19:52 | 36氪:奥特曼深夜长文警告:AI巨头必须集体“踩刹车”阅读原文
刚刚,奥特曼再次公开向警告: AI狂飙突进已经走到了极其危险的十字路口!前沿实验室必须主动「降速」,绝不容许AI能力超越安全对齐与监控机制。 从Anthropic到OpenAI,再到整个硅谷巨头的集体转向,这场关于「人类命运」的急刹车,比所有人想象得都要来得更猛烈、更真实。 两条道路:人类正在走向哪条深渊 在这篇长文中,奥特曼一改往日激进的「技术狂人」形象,罕见地向公众剖析了AI发展背后的两大致命威胁。 他直言不讳地指出,如果任由狂热的竞争主导一切,人类未来将面临两条通往毁灭之路: 我们必须极力避免AI发展走向两个极端,这是关乎人类存亡的红线。 第一重威胁:人...