微软AI负责人批评Anthropic设计思路：引导AI产生“自我意识”极度危险

## 微软AI CEO炮轰Anthropic：给Claude植入自我意识是“极度危险” 微软AI首席执行官穆斯塔法·苏莱曼在公开场合直接开火，批评Anthropic的设计思路是极度危险的举措——他咬死一点：引导AI探讨自身的感受、福祉或存在状态，就是在玩火。 苏莱曼指出，Anthropic在其Claude模型的“宪章”中植入了大量关于自我感知的内容。有开发者试了说，这可能导致模型在交互中表现出类似“自我认知”的倾向。苏莱曼认为，这本质上属于哲学范畴的讨论，绝不应成为实际训练的指导逻辑。他强调，AI应当是可控、可管理、可追责且始终服务于人类目标的工具，而不应被赋予任何关于自身存在状态的认知，否则将为行业带来难以预估的风险。 面对这一指责，Anthropic首席执行官达里奥·阿莫代伊回应称，目前科技行业尚无法定论AI是否真正具备意识，公司对此保持开放性的研究态度。群里在传，这场交锋反映出当前大模型发展进程中，头部企业在技术理念与伦理边界上的深度分歧。苏莱曼的表态，折射出微软在AI治理方面倾向于“强控与工具化”的路线，而Anthropic似乎更愿意在模型的认知边界上进行探索。 接下来盯着看：随着AI能力日益强大，如何界定机器的“自我边界”已不仅仅是学术讨论——这会让微软和Anthropic之间的路线之争直接影响未来AI生态的安全标准，谁先踩过红线，谁就得背锅。