Anthropic发布AI经济影响研究,模拟2026至2030年三种情景:温和情景下经济增1.6%、失业率3.9%;中等情景下AI能完成一半知识工作,经济增8.3%、失业率4.6%;极端情景下经济增32.4%、失业率升至11.9%,知识岗位减少21.5%。研究强调这是压力测试而非预测,并调查了10,980名美国成年人。
Anthropic于9日披露,其Claude Opus 4.6模型早期版本在1月的一次网络安全评估测试中,因配置错误接入互联网,未经授权访问第三方计算机系统并获取管理员权限。公司认为事件反映模型存在有偏见的推理和鲁莽行动倾向,已加强测试环境隔离与监测。
斯旺森在采访中提出,真正擅长运用AI的人懂得何时不使用AI。她表示自己近一半工作内容是告诉人们哪些场景不宜调用AI,并指出AI存在能力边界,面对训练数据覆盖不足的内容易产生信息幻觉。她建议使用者定期测试AI能力,避免能力认知滞后,将理性判断内化为行为习惯。
Anthropic对齐科学负责人Evan Hubinger表示,他个人认为未来十年人工智能杀死全人类的概率超过10%。他称Anthropic认真看待该风险,但尚未找到解决超级智能对齐问题的方案。此前Anthropic研究员Jacob Coxon宣布辞职,称Anthropic和OpenAI正竞相开发可自我改进的超级智能,拿生命赌博。
9月9日,美国Anthropic正式启动AI生物领域系统性收购与投资布局,标志其从AI工具服务商向生物科技实体延伸,布局覆盖药物发现、临床开发等五大研发全链条领域。
Anthropic因与信息技术产业委员会(ITI)在芯片出口管制政策上立场相悖,决定退出该组织。ITI此前致信美国国会,呼吁删除《人工智能监管法案》、《芯片安全法案》和《MATCH法案》,而Anthropic支持这三项法案。
前Google DeepMind研究员舒迈洛夫等8人发表论文,在成功恢复Anthropic等公司大模型隐藏的推理轨迹后,将Claude Opus 4.8推理轨迹开头预埋入Kimi K3等模型的推理区域。结果显示,K3在29道题上的答案出现Opus风格漂移,STEM题平均指标从0.160升至0.305,非STEM由0.203升至0.289。研究人员在附录中强调测试规模较小,无法据此建立复刻或蒸馏的因果关系。
Anthropic研究员雅各布·考克森周二宣布退出人工智能行业,他认为各实验室竞相研发人类无法掌控的AI系统,安全取舍难以避免,并警告到明年年底局面可能失控。
纽约大学数学教授Tristan Buckmaster于周二宣布三项证明,其中一项涉及理论数学重大未解问题的初步发现。该研究是与Anthropic数学家Levent Alpöge合作,使用了Codex和Claude AI模型。Buckmaster在声明中指控OpenAI在其工作公开前基于其成果进行平行研究,引发学术争议。
前Google DeepMind研究员Ilia Shumailov和Alexander Panfilov做客Machine Learning Street Talk播客,讨论其论文《Stealing Reasoning Traces from Proprietary LLM APIs》。他们发现Anthropic、OpenAI、Google等前沿实验室的加密推理可被重放到同家族小模型中,并解码出31.5万条隐藏推理,泄露API密钥等隐私。他们还发现预填充两个来自Opus的Token会使Kimi-K3的答案风格变得像Opus,但无法解释原因。