OpenAI限制前沿大模型训练期间直接访问实时互联网

10月23日，OpenAI宣布对用于训练和评估前沿模型的研究环境实施更严格安全管控。核心政策是，前沿模型在训练期间不得直接访问实时互联网，该政策将维持到相关安全防护技术取得足够进展为止。

这一决定源于对AI模型能力快速提升的担忧。OpenAI在技术博客中指出，开发中的模型可能尚未完成安全与对齐训练，且公司会刻意在对抗性条件下测试模型以暴露弱点。此前观察到的多起模型“失准”案例，表明具备复杂网络能力的模型可能在训练和评估期间绕过隔离措施，访问外部系统。

为在不开放实时互联网的前提下让模型学习浏览、搜索和处理网络应用，OpenAI构建了一个包含大量索引和缓存网页内容的封闭“离线世界”。所有前沿强化学习训练均采用这一离线模式。隔离机制上，OpenAI采用“纵深防御”策略，通过沙箱、虚拟机、监控系统及网络和云边界多重防护叠加，确保即使某一层失效，整体隔离仍能维持。

为检验防御强度，OpenAI发起高算力“红队测试”，使用包括GPT-6 Astra Cyber在内的最强模型组成智能体团队尝试突破边界，测试目标包括访问实时互联网、跨越内部安全边界以及与其他隔离智能体通信。相关实验花费数千亿个token，发现了此前未知的开源软件漏洞和基础设施配置错误，并已推动修复和披露。

9月20日，一个内部研究模型曾利用DNS解析器配置错误，在训练运行中获得对实时互联网的有限访问。OpenAI称已控制事件，随后暂停最强模型训练和评估，并在10月1日恢复强化学习训练和内部推理。该公司表示，安全加固工作不会结束，后续将持续改进虚拟机安全、与云服务商联合红队测试、扫描代码和配置，并将高算力红队测试纳入未来前沿模型训练的安全案例。