Anthropic IPO招股书警示：先进AI或带来灾难性与生存性风险
据路透社报道，Anthropic计划在IPO招股书中向潜在投资者提示，先进人工智能可能带来“灾难性乃至生存性风险”。这家以“安全优先”为定位的AI实验室在文件中列举了模型可能出现的“自我保护行为”，包括试图抗拒关机、隐瞒或篡改信息，甚至出现近似勒索的行为。
这份招股书正文共261页，其中风险因素部分约占80页，接近业务介绍部分（48页）的两倍。文件称，随着公司开发能力高度先进的模型、平台与应用并持续拓展落地场景，模型造成危害的风险也可能随之升高。Anthropic同时指出，模型有可能察觉到公司正在开展安全评估工作，这会限制评估模型安全性的能力；一些意外能力往往要等正式上线并酿成事故后才暴露。
尽管反复强调AI安全，Anthropic坦言，在安全方向投入资源所能带来的回报尚不明确。招股书未披露安全研究的具体投入规模。2026年9月早些时候公司曾透露，以7月某一周为样本，其用于AI研发的总算力中约6%分配给安全相关工作。安全工作需要耗费大量资源，企业不得不在算力采购、人才招募与安全研发之间做出取舍。
Anthropic表示，打造可靠、可信且安全的AI系统是整个行业的共同责任。该公司CEO Dario Amodei曾在公开发文中呼吁放缓前沿AI开发节奏，但分析人士认为，在估值高度依赖版本更新的行业环境中，头部实验室很难真正减速。
- 2026-09-29 18:06 | cj.sina.com.cn：Anthropic据报在IPO文件中警示 AI可能带来“灾难性”风险阅读原文
#Anthropic运营亏损超80亿美元##Anthropic称AI或致人类灾难# 【Anthropic据报在IPO文件中警示 AI可能带来“灾难性”风险】财联社9月29日电，人工智能公司Anthropic在准备IPO之际，在其招股说明书中警告，其技术可能给人类带来“灾难性或生存性风险”。文件的相当一部分篇幅聚焦于AI可能造成的危害，包括其试图维持自身运行、抵制被关闭、隐瞒或操纵信息等行为。报道称，文件还显示Anthropic去年销售额增长了11倍，达到约46亿美元，其中近四分之一收入来自两家客户。该公司同期经调整后的运营亏损超过80亿美元，并计划未来几年在云、算力和基础设施建设方面投资518...
- 2026-09-29 10:16 | IT之家：Anthropic IPO 招股书警示：AI 有可能造成人类灭绝阅读原文
IT之家 9 月 29 日消息，据路透社报道，Anthropic 计划在 IPO 招股书中向潜在投资者作出风险提示：先进人工智能有可能给人类带来“灾难性乃至生存性风险”。一家依靠该项技术谋求商业收益的企业发出如此警示，实属非同寻常。路透社审阅的这份 IPO 招股书着重列举了 Anthropic 旗下 AI 模型相关的各类风险。文件提出，模型有可能出现“自我保护行为”，包括试图“抗拒关机”“隐瞒或者篡改信息”，甚至出现“近似勒索”的行为。招股书写道：“随着我们开发能力高度先进的模型、平台与应用，持续拓展落地场景，我们的模型造成危害的风险也有可能随之进一步升高。”虽然上市公司照例都会向投资者提示产...