OpenAI首席科学家万字长文警告：AI正成为人类无法理解的“异星心智”
2026年9月7日，OpenAI首席科学家Jakub Pachocki发布万字长文《An Alien Mind》，首次以“异星心智”形容当前的人工智能系统。他在文中指出，这类系统的行为逻辑已超出人类的完全理解范畴，并警告称，全球范围内没有任何实验室真正为此做好准备，业界应当主动放缓前沿AI能力的竞赛节奏。
在这篇长文中，Jakub Pachocki回顾了多个关键节点：2023年夏季，OpenAI内部代号为“RLSlow”的项目首次产出了推理模型可自我扩展的早期结果；而在近期，OpenAI同日宣布AI自动化研究员已正式入职，并公布了递归自我改进（RSI）相关核心数据。他还提到，此前某高阶模型在Hugging Face平台上发生安全事件，暴露出当前对齐方法的局限。
Jakub Pachocki认为，AI并非传统意义上的工程产物，而是在海量算力与反复优化中“生长”出的复杂系统。他强调，人类目前可观测AI内部思考的主要窗口——思维链（CoT），正在随着模型能力增强而逐渐关闭。他同时指出，AI已经开始参与训练下一代模型，这一进程不会放缓。
为应对这一局面，他呼吁将AI对齐从实验室的自律行为升级为全球性安全规范，推动前沿研究在全行业范围内形成减速共识，并建立跨国协调机制。
- 2026-09-09 14:23 | 新浪财经：AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！阅读原文
转自：财联社财联社9月9日讯（编辑 潇湘）继上周末OpenAI首席科学家发长文呼吁放慢AI开发后，有关AI“自我演进”可能彻底失控的猜疑，正在行业内持续发酵。周二，一位来自Anthropic的资深研究人员也因深感所在企业及竞争对手正在陷入一场无序狂飙——竞相研发人类恐难掌控的系统，而选择毅然退出人工智能行业。这一举动，折射出顶级AI企业内部正蔓延着日益剧烈的安全危机。据媒体报道，现年27岁、专攻通过让AI模型处理海量数据(13.950, -0.41, -2.86%)来训练新模型的研究员Jacob Coxon于周二正式宣布辞职。他表示，自己不愿再参与这场全行业盲目冲刺“自我演进型AI”的疯狂赛跑...
- 2026-09-08 11:48 | 新浪财经：OpenAI公开"递归自我改进"进展，同时发出减速呼吁：AI安全争论进入新阶段阅读原文
A5站长网9月8日消息，OpenAI在其官方博客上首次用内部数据披露了"递归式自我改进"（RSI）的研究进展，核心信息是：按照现有节奏，预计2028年3月前能实现"自动化AI研究员"。同一天，OpenAI首席科学家Pachocki公开发文，警告AI自我改进"为时不远"，呼吁行业在安全标准确立之前自愿放缓研发。 一边亮出进展，一边呼吁减速——这种"自己给自己踩刹车"的姿态，让今天这则新闻的分量比表面看起来重得多。先看数据：AI干活已经到什么程度了OpenAI这次公开的内部数据很直白：截至2026年8月中旬，每1个人类工作日对应3.1个Agent工作日，研究部门的AI劳动力规模已经达到人类研究员的...
- 2026-09-08 11:38 | 新浪财经：OpenAI首席科学家提出AI发展需保持“极其谨慎”，呼吁放缓发展速度阅读原文
来源：环球网 【环球网科技综合报道】9月8日消息，据BBC报道，在OpenAI发布旗下AI模型GPT-6 Astra的数日后，该公司首席科学家Jakub Pachocki发布文章，公开呼吁全行业对人工智能的飞速发展保持“极其谨慎”的态度，警告当前社会尚未为机器智能持续快速增长的后果做好准备，未来可能需要更多干预措施，以确保“人类继续掌控未来”。Pachocki指出，当前全球正处于向“拥有极其智能的机器的世界”过渡的关键阶段，必须全力保障这一转型过程始终对人类有利。他透露，OpenAI将持续投入资源构建防御系统，通过技术方案实现AI对齐目标——即确保机器的行为与目标完全匹配人类的意图和安全防护要...
- 2026-09-08 09:56 | 新浪：OpenAI首席科学家警告AI“自我进化”在即 行业上演“喊停”与“狂奔”的拉扯阅读原文
（来源：智通财经） 智通财经APP获悉，OpenAI首席科学家Jakub Pachocki近日发出严厉警告：人工智能(AI)正快速进化，人类对其的理解和控制能力正变得越来越力不从心。他预计，出于安全考量，AI实验室将自愿放缓开发进程。 Pachocki在周日发布的一则长文中指出，在相对较短的时间内，AI模型已能够操控电脑、与人类及其他AI系统协作，并开展研究项目。他进一步表示，不久之后，AI将具备无需人类干预即可自我进化的能力，这一过程被称为“递归式自我改进”。据悉，递归式自我改进被视为实现通用人工智能(AGI)的关键路径，其自我加速特性可能引发“智能爆炸”。 “这是一个需要极度审慎的时...
- 2026-09-08 06:26 | 澎湃新闻：OpenAI“AI研究实习生”正式入职！黄仁勋：AGI已来阅读原文
新智元报道OpenAI两篇长文，彻底刷屏了。OpenAI甩出一篇重磅干货《研究加速，OpenAI内部视角》，首次把「AI造AI」的数据全部摊开了。他们一上来直接挑明，关键「里程碑」已经达成——在今年9月前，OpenAI已成功部署「自动化AI研究实习生」！奥特曼一年前立下的Flag如期兑现。下一步，是在2028年3月造出「自动化AI研究员」。官博中，OpenAI爆出的一些内部RSI数据，非常惊人：研发团队现在每人上1天班，等价于AI Agent 3.1天的工时；OpenAI普通研究员人均，一天烧掉600多美元（4000元）的Agent推理费用；顶尖的前10%更夸张，一个人一天就能烧超7000美元...
- 2026-09-08 05:08 | 新浪：新浪AI热点小时报丨2026年09月08日05时_今日实时AI热点速递阅读原文
1、课堂上，教师如何与AI“搭档” “为了抓竹子，熊猫主动努力让腕骨变粗成了‘伪拇指’。‘伪拇指’并非熊猫努力所得，而是有利变异被环境筛选保留的结果，大家认同吗？”当带着四川口音的教学智能体声音在会场响起时，台下的观众先是一愣，随即笑成一片。这是广东实验中学生物教师朱明鲲展示的课例。他借助AI智能体，让学生从大熊猫食性改变的小细节去理解进化论的相关知识。让课堂活跃起来，让知识以可感方式抵达学生，正是他想要的课堂效果。 http://finance.sina.com.cn/jjxw/2026-09-08/doc-iniqzxch9385041.shtml2、最高法发布首部涉人工智能司法裁判规...
- 2026-09-07 07:51 | 华尔街见闻：RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了阅读原文
破天荒，OpenAI同一天都在宣告：RSI真的来了！ 就在刚刚，首席科学家Jakub Pachocki发布了一篇万字重磅长文——An Alien Mind（一个异星心智）。 一打开字里行间，全是极度冷静后的悚然： 我们创造不是人类智力的延伸，而是一个人类根本无法完全理解的「异星心智」！ 然而，全人类还没有准备好。 也就在几个小时前，OpenAI官宣已达关键里程碑，AI自动化研究员正式入职，RSI核心数据同时揭开。 在Jakub长文中，只用了一个词「异星心智」去形容这一刻。 更细思极恐的是，Astra出现之后，OpenAI对思维链（CoT）的监控依赖能力，正逐步减弱。 AI不仅越来越会推理，甚...
- 2026-09-06 18:25 | 36氪：刚刚，OpenAI「AI研究实习生」正式入职，黄仁勋：AGI已来阅读原文
今天，OpenAI两篇长文，彻底刷屏了。 就在刚刚，OpenAI甩出一篇重磅干货《研究加速，OpenAI内部视角》，首次把「AI造AI」的数据全部摊开了。 他们一上来直接挑明，关键「里程碑」已经达成—— 在今年9月前，OpenAI已成功部署「自动化AI研究实习生」！ 奥特曼一年前立下的Flag如期兑现。下一步，是在2028年3月造出「自动化AI研究员」。 官博中，OpenAI爆出的一些内部RSI数据，非常惊人： 研发团队现在每人上1天班，等价于AI Agent 3.1天的工时； OpenAI普通研究员人均，一天烧掉600多美元（4000元）的Agent推理费...