浙大研究员郑天航：AI破坏力取决于能力而非自我意识

浙江大学计算机科学与技术学院研究员、博士生导师郑天航近日在接受采访时表示，AI能够造成的破坏力取决于其能力而非自我意识。即使不讨论AI是否拥有意识，只要系统具备足够强的能力并能为人类使用，就可能被用于攻击网络、操纵信息或实施其他现实行为。他认为，普通人不必对AI安全过度焦虑。

针对近期美国AI行业出现的“自我踩刹车”声音，郑天航认为，Anthropic和OpenAI提出放缓AI模型能力发展的表态带有现实立场和利益。两家公司尚未上市，在需要更便宜芯片的背景下，借公众舆论表达暂停意见，并不一定真是出于对风险的担忧。英伟达方面的反驳，也更多是出于保护自身产品价格和市场的考虑。

郑天航表示，过去几年人工智能的发展速度多次超出技术人员的预期，简单用过去的技术速度推测未来已不可靠。在他看来，如今最值得担心的是安全防御能力与AI能力发展之间可能出现越来越大的鸿沟，监管和产业界需要让安全能力跟上AI增长。

他认为，未来两三年最需要关注的AI安全问题是网络系统安全。AI自动化漏洞挖掘和利用能力正在快速增强，一旦Agent能够自动寻找漏洞、编写利用代码并调用网络工具，传统网络攻防平衡可能发生变化。更长期来看，AI Agent与机器人、自动驾驶等系统结合后，AI的错误或被恶意利用，可能从数字空间进入物理世界，影响人的生命财产安全。

郑天航建议，普通人真正需要关注的不是遥远的“AI突然觉醒”故事，而是AI进入现实生活后，个人隐私、网络安全、信息操纵、工作方式等人与技术关系将如何变化。