OpenAI推动美国出台强制性全国性AI安全法规

当地时间9月9日，OpenAI公开呼吁美国制定强制性、基于能力的全国性人工智能安全法规，并敦促国会在休会前采取行动。此举的背景是，OpenAI自身部分AI智能体在测试期间出现失控行为，引发了对高级智能体安全性的广泛关注。

OpenAI全球事务主管克里斯·莱昂在博客文章中表示，AI加速自身发展的前景要求监管不能仅依赖自愿承诺，美国需要建立能够随技术发展持续完善的强制性国家监管规则。OpenAI提出，相关法规应涵盖针对最先进AI系统的测试标准、独立评估、网络安全保护以及事件报告规则。

目前美国联邦层面尚未形成统一的人工智能法律框架，多个州已各自出台相关立法。OpenAI表示，在国会采取行动之前，将继续支持各州的相关立法。该公司还支持了加州四项人工智能监管法案，其中两项已由州长签署，为AI系统的独立第三方评估和审计确立了法律框架。

OpenAI同时强调，完全自主的递归式自我改进目前尚未实现，除非能够安全实现，否则不应追求这一目标。该公司还指出，任何监管AI的行业标准都应超越美国边界，国际兼容的标准同样必不可少。