港科大团队发布AI安全防御技术RedHerring：用诱饵漏洞消耗黑客验证时间

10月22日，香港科技大学佘东冬团队发布AI安全防御技术RedHerring，为应对AI黑客攻击提供新思路。

该技术通过在代码中植入看似真实但无法触发的诱饵漏洞，消耗AI黑客的验证时间，从而降低真实漏洞被发现的概率。论文对300条漏洞挖掘轨迹的分析显示，验证阶段占AI黑客总耗时73.8%，验证一个假设的平均成本约为提出假设的11.1倍。

在33个真实开源项目上，团队测试了Qwen、GLM、DeepSeek、Kimi等5款主流大模型。结果显示，加入诱饵后，各模型发现的真实漏洞减少39%到60%；即使提前告知代码中可能存在诱饵，真实漏洞仍减少37%。部署方面，每个项目接入耗时约70分钟，原有测试全部通过，运行速度影响不到1%。

RedHerring的假漏洞由一条仿照真实历史漏洞的代码路径和一道永远无法通过的检查构成，并模仿项目原有风格。AI黑客一旦开始验证，便会在分解大整数等任务上耗费大量算力。

团队认为，在AI Agent参与攻防的时代，代码本身正成为新的对抗面，RedHerring为改变“攻易守难”的局面提供了可行思路。