比尔·盖茨：AI处于极度脆弱期，网络攻击能力已存在

9月29日，比尔·盖茨接受《纽约时报》播客主持人Ezra Klein采访时，就AI安全风险发出警告。盖茨表示，能够扰乱所有银行账户、瘫痪电网的网络攻击能力“今天已经存在”，AI领域正处于“极度脆弱期”。

他回忆今年4月Anthropic发布Mythos模型时的情形，称当时模型展现出的网络攻击能力令人震惊。盖茨还提到Anthropic提出的Project Glasswing构想，即让少数人提前使用AI以修复漏洞，但代码量过于庞大，难以实现。他认为，开源模型的危险并非来自AI产生意识或自主作恶，而是来自人类的恶意使用。为此，他主张为所有模型增加一个带有“绝对底线”的监督层。

盖茨以Hugging Face平台为例，说明AI模型需要监督机制。他形容AI的发展“像进化史”，“外星人真的来了”，但他最紧迫的担忧在于，现有模型已经存在于现实世界之中。