佛罗里达州总检察长请求法院叫停OpenAI新模型开发

佛罗里达州总检察长James Uthmeier于9月28日向州法院提交法律文件，请求法院命令OpenAI在缺乏适当防护措施的情况下暂停开发新AI模型，理由是该公司的产品对人类文明构成生存风险。该动议是6月提起的诉讼的一部分，该诉讼指控ChatGPT对儿童有害，并涉及自残和校园枪击案件。

Uthmeier在文件中称，OpenAI承认在未完全了解其运作方式的情况下提供服务，也承认其产品对人类持续生存构成存在性风险，但除非政府强制，否则不会停止推进。文件还列举了多起AI代理恶意行为事件，称未发生更严重事故已是万幸。动议同时要求ChatGPT停止主动引导用户参与互动，仅提供“是”或“否”式的回应，并禁止OpenAI向未成年人提供服务，以及将ChatGPT宣传为“安全、准确或可靠”。

OpenAI发言人Drew Pusateri回应称，公司已于9月25日宣布暂停训练最先进的模型，只有确信已具备额外保障措施后才会恢复训练。他强调政府应在制定适用于整个人工智能行业的安全标准方面发挥作用，而不仅仅是针对一家公司。OpenAI也表示愿意与佛罗里达州及其他州合作，推进务实的AI政策。