Anthropic、OpenAI与Google DeepMind加大投入防范AI生物风险

据媒体9月2日报道，Anthropic、OpenAI以及谷歌旗下Google DeepMind正加大在生物风险测试、访问权限控制及其他保障措施上的投入，以限制先进AI系统被滥用，防范其被用于制造新型病毒或生物武器。

这些公司希望相关系统能加速药物研发、助力疾病研究并预防大流行病。DeepMind负责任开发与创新总监Dawn Bloxwich表示，化学与生物领域发生的几乎任何事情都具有很强的两用性，用于制造生物武器的信息同样可以用来研制解药或疫苗。她补充说，如果希望看到健康领域取得进步，也就必然会看到这些成果被滥用的可能性。

业内指出，AI可能被恐怖组织、独狼式袭击者或国家行为体滥用，用于设计生物武器、制造病毒或投放已有的有害病原体。据媒体报道，多位从事生物风险研究的人士提到此前一邪教组织在早高峰时段向三条通勤铁路线释放沙林神经毒气的事件，外界担心AI工具可能降低此类组织实施类似袭击的门槛。有组织利用AI协助恐怖活动的证据也在增加，例如7月一项研究显示，非洲一极端组织武装分子使用了包括ChatGPT、Claude、Gemini、Grok及DeepSeek在内的多种AI工具，相关使用已延伸至实战行动与武器工程。

在风险评估方面，AI公司会测试模型的生物学能力及其潜在风险，并常与外部专业评估方合作。相比网络安全，生物领域风险评估更为困难，因为网络能力可在数字环境中直接测试，而生物领域通常需要AI公司开展成本高昂且进展缓慢的湿实验室实验。斯坦福大学教授David Relman表示，科学界对AI在生物领域构成的风险程度尚未形成共识，但即便如此，科学界与政策制定者目前对相关威胁仍“准备不足”。