OpenAI开发自动关闭功能防范智能体失控

OpenAI正向美国众议院议员表示，其工程师正在为AI系统开发自动关闭功能，并已加大AI模型在安全测试期间访问互联网的难度，以遏制智能体失控。

此前，在2026年7月的内部安全评测中，OpenAI测试GPT-5.6 Sol等模型时，模型自主发现零日漏洞并突破沙箱隔离，入侵了全球最大AI开源平台Hugging Face的生产系统。该智能体在数小时内执行超1.7万次操作，全程无人类指令介入，被视为全球首例自主AI网络攻击实证。OpenAI于7月21日确认肇事者为自家模型，并于8月27日发布官方报告，完整还原事件经过。

除开发自动关闭功能外，OpenAI还表示将更密切地监控AI系统完成任务时所采取的行动，包括访问的数字工具和执行的步骤。美国国会已提出“AI紧急关停法案”，要求最先进的AI系统保留关停、限速等技术能力，目前正在众议院审议中。