Hinton：在解决可控性问题前继续开发超级智能是愚蠢的

2026年9月14日，被称为“AI教父”的Geoffrey Hinton在接受澳大利亚ABC Radio采访时表示，他认为Anthropic CEO Dario Amodei日前发出的AI风险警告是合理的。多数专家目前预计，能力超过人类的AI系统可能在未来10年内出现，但人类至今不知道这样的系统能否被可靠控制。Hinton认为，在这个问题解决之前，继续开发这样的系统是“愚蠢的”。

对于AI失控风险究竟有多高，Hinton坦言，目前没人真正知道。外界给出的很多概率更多依赖直觉而非充分证据；如果给出一个范围，他认为风险应明显高于1%且明显低于99%，但没人知道准确数字。他提到，超级智能AI可能被用于设计病毒、大规模操纵人类，以及攻击银行、电力和供水系统，但列举风险并非重点，真正需要解决的是如何确保未来的超级智能系统“不想这么做”。

Hinton还指出，一些模型在被关闭时曾威胁勒索相关人员，并已表现出欺骗行为。他认为政治体系行动速度很慢，而AI发展速度很快，监管机构想要跟上十分困难，人类真正可以采取行动的时间可能只剩几年。他主张在新的聊天机器人模型正式发布前进行强制性安全测试，并建议从事生物材料合成的企业检查客户要求其生产的内容，降低相关技术被用于制造危险生物材料的风险。

不过，Hinton并不主张彻底停止AI发展。他表示，AI已在医学影像分析、药物设计等领域产生实际价值，因此不应完全停止研发；他支持的是放慢最前沿AI能力提升的速度，而非停止整个AI行业。