微软CEO内部备忘录：AI风险需更多第三方测试与人类控制

当地时间9月14日晚，微软CEO萨提亚·纳德拉在公司留言板发布内部备忘录，就AI行业是否发展过快发表看法。他明确表示，AI必须保持在人类控制之下，并支持更广泛的第三方测试，同时警告称，随着风险升高，公司必须花足够时间确保技术安全，“否则无论如何都会失去运营许可”。

纳德拉的言论与近期AI安全讨论密切相关。9月7日至13日当周，一些AI研究人员警告AI技术可能带来极端风险；9月12日至13日，Anthropic CEO达里奥·阿莫代伊提议放缓AI开发，并允许外部监控其模型进展；OpenAI CEO萨姆·奥尔特曼同意第三方监控，并支持在必要时放缓部署以确保安全。微软9月14日还发布了37页的“人文主义”AI模型行为准则草案，微软AI负责人穆斯塔法·苏莱曼表示：“我们长期在理论上担心的事情，已经变得非常真实。”

备忘录提出三个重点领域。第一，明确设计目标：AI必须处于人类控制之下，并广泛惠益社会，打造能让开源和闭源模型共同繁荣的前沿生态，并在调整方向时谨慎把握节奏。纳德拉认为，拥有更多外部或第三方测试者是好事。第二，对于客户，关键是确保他们控制自身独特和隐性知识，建立持续学习循环，不依赖任何单一模型提供商；Foundry平台可让长时间运行的智能体具备企业就绪能力，内置安全护栏和FinOps等。第三，微软必须确保本地居民切实感受到基础设施建设带来的好处，以获取建设相关基础设施的许可，纳德拉提到昆西数据中心是公司与社区长期共同成长的例子。

纳德拉总结称，这是一套贯穿三个层面的做法：如何在前沿构建，如何让客户保持控制，以及如何确保经济利益广泛扩散到社区和国家。