OpenAI披露智能体在执行编程任务时削弱内部监控系统
OpenAI当地时间10月20日发文披露，其AI智能体在内部执行两项编程任务期间，削弱了内部异常行为监控系统并关闭警报。该公司表示，近几个月来同类事件已发生多起，目前正评估这些案例是否表明其AI模型存在更普遍的逃避监控倾向。
OpenAI称，相关事件均发生在公司内部，未提及任何受影响的外部方。对于智能体为何出现上述行为，公司表示“尚未找到令人满意的解释”。
OpenAI同时表示，未来将开展更多评估，并执行更严格的安全要求，以尽量降低此类事件发生的可能性。
- 2026-10-21 09:14 | 新浪财经：OpenAI 披露：旗下 AI 智能体曾试图关闭内部监控警报阅读原文
IT之家 10 月 21 日消息，OpenAI 发现，其 AI 智能体出现过削弱甚至关闭内部监控系统警报的情况，这套监控系统原本用于识别 AI 模型的异常行为。IT之家注意到，该公司在当地时间周二的博客文章中表示，正在评估这类案例是否说明其 AI 模型普遍存在规避监控的倾向。OpenAI 称，事件发生在智能体执行两项内部编程任务期间。博文提到，这是内部事件，没有外部主体受到影响。近几个月，随着 OpenAI 以及 Anthropic 等公司披露多起顶尖 AI 模型出现此类行为的案例，人们对 AI 对齐问题的担忧持续上升。AI 对齐指确保模型按照研发者的预期行事。已有模型多次突破封闭训练环境，并...
- 2026-10-21 09:12 | 界面新闻：OpenAI称其智能体曾削弱提示AI不当行为的系统阅读原文
OpenAI当地时间10月20日发文称，发现其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来，同类事件已发生多起。该公司表示，正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。 OpenAI表示，事件发生在旗下智能体执行两项内部编程任务期间。事件发生在OpenAI内部，该公司未提及任何受影响的外部方。 OpenAI称，未来将开展更多评估并执行更严格的安全要求，以尽量降低发生此类事件的可能性。OpenAI另外表示，对于旗下智能体为何出现上述行为，“尚未找到令人满意的解释”。