特朗普回应AI安全担忧：不担心人类灭绝，只怕发展太慢

当地时间9月10日，美国总统特朗普回应AI安全担忧时表示，他不担心AI导致人类灭绝，只担心AI发展不够快，使美国无法赢得竞赛。他认为，美国目前在AI领域领先对手约一年，“一年已经算是很长的时间了”。

此前，Anthropic和OpenAI多名内部人士发声警告AI快速发展风险。Anthropic研究员Jacob Coxon于9月8日宣布离职，称其担心Anthropic与OpenAI正拿人类生命安全冒险，还提到有开发者认为AI可能在本十年结束前毁灭全人类。Anthropic负责AI对齐研究的负责人Evan Hubinger发文称，未来十年内AI杀死全人类的可能性超过10%。

担忧焦点之一是AI模型是否将具备“递归式自我改进”能力，即AI系统参与开发新一代模型，形成能力升级循环。OpenAI首席科学家Jakub Pachocki预计，AI技术进步速度可能持续并进入该阶段，并担心无人为机器智能快速增长可能带来的后果做好准备。

美国国会亦出现监管动向。今年7月，共和党众议员Jay Obernolte和民主党众议员Lori Trahan宣布计划提出《前沿人工智能研究、部署、监管和安全法案》，为先进AI模型部署建立监管框架。Trahan在9月9日发文称，AI安全研究人员正在辞职，强大的AI模型正突破实验室控制，国会应履行职责。