比尔·格利批评Anthropic CEO的AI监管设想：监管易被俘获

9月16日，知名科技投资人比尔·格利在社交媒体X上发帖，批评Anthropic首席执行官达里奥·阿莫代伊关于人工智能（AI）监管的设想，认为监管机制设计难度大，且极易遭受“监管俘获”。

此前，阿莫代伊于9月12日在X上发表长文，呼吁放缓前沿AI模型能力提升的速度，为安全措施争取跟上时间，并建议由独立第三方评估团队获得类似公司员工的访问权限，核查AI企业的安全实践、报告事故并评估模型及训练流程。这一表态获得了OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的支持。

格利在帖文中表示，他不喜欢监管，因为监管很难设计正确，且极易遭到“监管俘获”。他提到，自己最近深入研究了两起波音737 MAX空难以及福岛核事故，发现这两个案例中“监管俘获”恰恰是导致安全事故发生的核心失灵因素，分别体现在波音与美国联邦航空管理局（FAA）、东京电力公司与日本原子能安全保安院（NISA）之间。因此，如果安全是第一目标，监管者就必须是地位在被监管企业之上、拥有权力并承担问责责任的主体，认为监管者可以与企业保持友好关系并存在大量交叉联系的想法，在结构上是有缺陷的。

格利还援引了曾领导日本国会福岛核事故独立调查委员会的黑川清，后者也将监管俘获视为事故的重要制度性原因。

围绕AI安全的新一轮公开争论，正在引发关于是否应限制AI技术发展以保证安全的讨论，同时也加剧了外界对AI可能威胁人类生存的担忧。Okta联合创始人Todd McKinnon表示，AI悲观预测属于极端情况，AI既有风险也有机会，需要在两者间取得平衡。