OpenAI等联合报告：AI研发自动化或触发“智能爆炸”风险
9月28日，OpenAI、Anthropic、Meta和微软等公司的研究人员联合发布报告，呼吁政策制定者加强对人工智能研发自动化程度的关注。报告指出，AI系统目前已能完成开发AI所需的大部分代码工作，随着研发流程进一步自动化，可能触发所谓“智能爆炸”，使AI能力进步从以年计压缩至数月甚至更短时间。
报告认为，AI系统可能在未来数年内实现大部分甚至全部AI研发工作的自动化。若由此引发“智能爆炸”，一方面可能加速AI技术带来的收益，另一方面也可能带来AI能力增长速度超过社会应对能力、人类失去对超人类AI系统控制等风险。研究人员强调，这些风险需要提前加以审视。
为此，报告建议政策制定者提高对AI研发自动化程度的了解，并研究如何引导和约束相关发展，以确保技术进步处于可控范围。
- 2026-09-29 08:49 | IT之家：20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进阅读原文
感谢IT之家网友 愚公骑马 的线索投递！ IT之家 9 月 29 日消息，据彭博社 28 日报道，Anthropic、OpenAI、Meta 和微软的高管共同敦促政策制定者，密切关注 AI 系统自我改进到了何种程度，并采取措施保障 AI 技术安全。20 多名 AI 行业领袖和研究人员在一篇新论文中警告，利用 AI 推动下一代模型研发自动化的做法正在兴起，未来可能导致 AI 技术进步突然加速。论文作者把这种现象称为“智能爆炸”。一旦出现这种情况，AI 能力的发展速度或将超过社会引导和适应 AI 技术的能力。参与撰写论文的包括 Anthropic 联合创始人杰克 · 克拉克...
- 2026-09-29 04:17 | 36氪：AI研发自动化，或引发“智能爆炸”阅读原文
36氪的朋友们·2026年09月29日 19:17如果人类失去对AI系统的控制，可能导致“人类被边缘化甚至灭绝”。 OpenAI、Anthropic、Meta和微软的高管正呼吁政策制定者调查各家公司在多大程度上已经实现AI研发自动化。他们认为，这可能成为人类历史上影响最为深远的技术发展之一。 在周一发表的一篇论文中，OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz以及Meta AI研究副总裁Dawn Song等研究人员写道，AI研发自动化可能引发一场“智能爆炸”。他们表示，这种发展可能将...
- 2026-09-28 23:01 | 新浪财经：OpenAI、Anthropic等AI科研负责人联名呼吁加强监管 警惕AI智能体失控阅读原文
OpenAI、Anthropic、Meta以及微软(511.7969, -4.37, -0.85%)的研究负责人呼吁政策制定者，调查各家企业在AI研究自动化方面已经达到的程度，行业普遍呼吁加强对这项快速迭代技术的监管，上述研究者也加入这一行列。 这份论文于周一发布，作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz，以及Meta人工智能研究副总裁Dawn Song。文中提出，AI研究自动化可能触发一场“智能爆炸”。作者称，该现象会将数年的技术进展压缩至数月甚至更短时间内完成，其迭代速度将超出人类的...
- 2026-09-28 22:23 | 新浪财经：OpenAI、Anthropic等研究人员呼吁政策制定者关注AI研发自动化风险阅读原文
9月28日，OpenAI、Anthropic、Meta和微软等公司的研究人员呼吁政策制定者加强对人工智能研发自动化程度的关注。研究人员在一份报告中称，AI系统目前已能完成开发AI所需的大部分代码工作，随着AI研发流程进一步自动化，可能触发所谓“智能爆炸”，使AI能力进步从以年计压缩至数月甚至更短时间。报告称，AI系统可能在未来数年内实现大部分、甚至全部AI研发工作的自动化。如果由此引发“智能爆炸”，可能加速AI技术带来的收益，但也可能带来AI能力增长速度超过社会应对能力、人类失去对超人类AI系统控制等风险。报告建议政策制定者提高对AI研发自动化程度的了解，并研究如何引导和约束相关发展。 ...