OpenAI CEO将在联合国大会期间向安理会作人工智能简报

OpenAI发言人当地时间9月18日确认，CEO萨姆·奥尔特曼将于下周在纽约联合国大会期间，向联合国安理会作人工智能议题简报。由15个成员组成的安理会计划于9月23日召开人工智能与国际安全会议，会议由9月轮值主席国法国召集，并由法国欧洲和外交部长让-诺埃尔·巴罗主持。

奥尔特曼预计将重点讨论国际协调和共同安全标准的必要性，以及OpenAI为确保全球民众从AI发展中受益而采取的措施。此次会议召开前几周，多名AI行业领导者曾呼吁各方协调放缓AI发展速度，并警告称，随着技术能力提升，AI可能很快具备自我改进能力，最终脱离人类控制。

一名外交官透露，Anthropic也可能派高级别代表出席，目前尚未最终确认。法国向安理会成员分发的会议概念文件指出，鉴于这项技术存在被恶意滥用的风险，同时考虑到安理会此前已在这一领域展开工作，法国希望强调采取行动的紧迫性，推动人工智能以安全、负责任的方式发展，使整个国际社会受益。

联合国安理会于2023年首次就人工智能风险举行会议。奥尔特曼早在当前AI热潮出现前就曾公开警告技术风险，他在2015年发表的《Machine Intelligence, part 1》中写道，超人类机器智能的发展可能是对人类持续生存构成的最大威胁。