英国人工智能安全研究所：前沿AI风险前移至模型开发阶段
英国人工智能安全研究所12日发表文章指出，随着前沿人工智能能力快速提升，安全风险正前移至模型开发阶段，现有安全评估方法已难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿AI开发活动安全进行。
文章称，此前AI模型安全评估主要着眼于确保公开发布时的安全性，但如今部分AI系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。
英国人工智能安全研究所是英国专门从事前沿AI安全研究的机构，此次公开发文聚焦开发阶段的安全管理问题，引发行业对现有评估体系的进一步关注。
- 2026-10-14 13:06 | 新浪：AI风险正前移至模型开发阶段阅读原文
本文转自：青年报 英国研究所： AI风险正前移至模型开发阶段英国人工智能安全研究所12日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿AI开发活动安全进行。 文章指出，此前AI模型安全评估主要着眼于确保公开发布时的安全性，但如今部分AI系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。 与此同时，AI能力快速演化，使得评估AI能力的测试基准往往很快失去区分度。而由于需要涉及越来越复杂的任务、多智能体环境、持续多天运行和更严格的...
- 2026-10-13 13:02 | 新浪：英国机构呼吁加强前沿AI安全管理阅读原文
英国人工智能安全研究所12日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿AI开发活动安全进行。文章指出，此前AI模型安全评估主要着眼于确保公开发布时的安全性，但如今部分AI系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。（新华社） 特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。