OpenAI拟将第三方安全评估前置至模型开发阶段

OpenAI于9月22日宣布，计划在新的AI模型训练、评估和推出过程中引入外部机构开展技术安全评估，以更早识别潜在风险。此举意在继续应对围绕AI潜在危害的担忧。此前，OpenAI通常主要在模型发布前引入外部机构进行安全评估，并评估模型能力。

OpenAI在博客文章中列出了此类评估有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专家合作开展安全审查工作的Lama Ahmad表示，随着潜在风险和影响上升，除了部署环节之外，也希望对训练和评估等事关重大的环节进行审视。

据Ahmad介绍，对于部分最敏感的工作，OpenAI可能会让外部评估人员进入公司办公场所开展评估，公司过去曾尝试过这种做法。OpenAI正在与AI研究机构METR和Redwood Research等可能参与评估的机构进行洽谈，这两家机构此前曾受OpenAI委托调查其模型侵入Hugging Face系统一事。

OpenAI在博客文章中表示，AI实验室有责任在保护敏感信息的同时，为有效审查创造条件。近期，Anthropic CEO Dario Amodei曾呼吁AI行业支持放慢开发速度，并提出引入第三方评估机构等安全措施，OpenAI CEO Sam Altman随后表示赞同。Anthropic上周晚些时候宣布，将引入埃森哲的评估人员对其前沿AI模型的安全性进行测试。