Anthropic研究员考克森宣布退出AI行业，警告2027年底局面可能失控

Anthropic PBC一名人工智能研究员辞职，并呼吁其他员工也重新思考自己的工作意义。他表示，Anthropic及其主要竞争对手OpenAI在全力追求一种可能给人类带来存亡风险的技术过程中采取了不负责任的做法。过去三年曾先后在Anthropic和OpenAI工作的Jacob Coxon 9月8日晚间在社交媒体发文警告，这两家公司正在推进能够“自我改进”的AI模型，而这些模型最终可能变得强大到人类无法控制。Coxon在帖子中写道：“他们正径直奔向能够自我改进的超级智能，而且是拿人类的生命作赌注。不要低估这项技术的力量。这些系统很快就会拥有超越人类的能力，可以入侵任何东西、一夜之间彻底改变任何...

财联社9月10日讯（编辑 黄君芝）周二，一位顶尖人工智能（AI）研究员从Anthropic公司辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任，这在社交媒体上引发了人们对AI技术快速发展的担忧。 曾先后在这两家公司担任研究员的Jacob Coxon，辞职后在X网站上发帖称，他辞职是因为担心Anthropic和OpenAI是在“拿我们的生命做赌注”。他说，开发人工智能的人“真心相信，到本十年末（2030年），人工智能可能会毁灭我们所有人”。 “不要低估这项技术的力量，”他写道：“这些很快就会成为超人般的系统，它们可以入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。” ...

An Anthropic researcher has resigned over fears that unrestrained development of self-improving AI models will end up killing us all. Jacob Coxon, a researcher who said in a social media post Tuesday evening that he spent the last three years working on pre-training research at both OpenAI and Ant...

美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类 　　据美国Axios新闻网8日报道，美国人工智能（AI）公司Anthropic三位研究人员公开了表达令人不寒而栗的担忧，他们警告称，失控的AI可能在未来十年内毁灭人类。报道称，这些研究人员没有在警告说AI是迫在眉睫的高级别威胁，但这项技术的发展速度远超预期，提醒称AI可能正加速滑向一个不可控的阶段。 资料图片 　　Anthropic公司研究员雅各布·考克森8日晚在社交媒体X上发文称，他当天从该公司辞职。考克森说，过去三年里，他先后在美国OpenAI和Anthropic从事AI预训练研究工作，“这两家公司都没有负起应有的责任”，将来，“...

如果只看AI公司最近的动作，不会有人觉得这场疯狂的竞赛有任何慢下来的意思。 新模型还在一个接一个地发布，公司估值越抬越高，OpenAI和Anthropic都已经开始为上市做准备。 但与此同时，AI公司内部呼吁整个行业“慢一点”的人也越来越多了。 而且之前发出这种警告更多来自负责安全和对齐的人。然而如今OpenAI首席科学家开始公开呼吁减速，更有意思的是，一名先后在OpenAI和Anthropic做预训练的研究员，干脆辞了职，并且发出了“诸神黄昏”般的预言。 负责踩油门的人，也觉得必须要到踩刹车的时候了。 01 AI十年内会杀死全人类？ 9月9日，Jacob Coxo...

转自：财联社财联社9月9日讯（编辑 潇湘）继上周末OpenAI首席科学家发长文呼吁放慢AI开发后，有关AI“自我演进”可能彻底失控的猜疑，正在行业内持续发酵。周二，一位来自Anthropic的资深研究人员也因深感所在企业及竞争对手正在陷入一场无序狂飙——竞相研发人类恐难掌控的系统，而选择毅然退出人工智能行业。这一举动，折射出顶级AI企业内部正蔓延着日益剧烈的安全危机。据媒体报道，现年27岁、专攻通过让AI模型处理海量数据(13.950, -0.41, -2.86%)来训练新模型的研究员Jacob Coxon于周二正式宣布辞职。他表示，自己不愿再参与这场全行业盲目冲刺“自我演进型AI”的疯狂赛跑...

一名Anthropic研究员以"人类将失去对AI的控制"为由宣布离职，成为该公司首批因安全顾虑出走的员工之一，令外界对这场技术竞赛的风险评估骤然升温。 据《华尔街日报》报道，Anthropic研究员Jacob Coxon于周二宣布离职，理由是不愿参与一场他认为将导致AI系统失控的行业竞赛。他警告称，最快到明年底，局面就可能已经“失控”。 同日，OpenAI首席科学家Jakub Pachocki发布题为《An Alien Mind（一个异星心智）》的长文，明确呼吁全球协调推进行业减速，并寻求政府介入。OpenAI还宣布，AI自动化研究员已正式"入职"，递归自我改进（RSI）的关键里程碑数据随之公...

美国人工智能初创公司Anthropic的一名研究员周二宣布将退出人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的AI系统，这也表明头部AI企业内部的安全顾虑正不断加剧。 　　27岁的Anthropic研究员雅各布・考克森曾任职于OpenAI。他表示自己将要离开人工智能行业，原因是他认为，在各家企业相互竞争的大背景下，没有任何一家实验室能够安全地研发能力持续增强、具备自我迭代能力的系统。 　　考克森于今年早些时候加入Anthropic，正是看中这家公司在人工智能安全领域的口碑。然而，他现在表示，公司在安全方面的努力是真心实意的，但竞争之下，安全层面的取舍权衡难以避免。 　　“很多...