Sentient 发布开放评测基准,检验 AI 模型指纹技术鲁棒性
Sentient Foundation 正式推出 Fingerprinting Leaderboard,这是一个开放的评测基准,旨在衡量模型指纹技术的有效性、对模型性能的影响以及抗移除能力。同时,Sentient 还开源了 mlprints 工具库,将不同指纹技术与攻击方法整合到统一评估框架中。
训练一个 AI 模型可能耗费数百万美元,但模型一旦被复制、微调或蒸馏,来源往往难以证明。模型指纹技术将来源证明直接嵌入模型本身,例如在训练过程中加入隐藏的行为签名。当模型所有者怀疑某个模型衍生自原始模型时,可通过 API 发送预设验证提示词,检查响应中是否保留原始痕迹。
Sentient 研究人员近期测试了十种模型指纹方案,发现足够复杂的攻击者几乎可以绕过所有方案,同时保持模型实用性,包括 Sentient 自身的 Perinucleus 方法。Perinucleus 曾在 NeurIPS 2025 上展示,可在 Llama-3.1-8B 模型中嵌入 24,576 个指纹,且仅造成极小的性能损失。但研究显示,现有技术在面对主动移除攻击时仍存在脆弱性。
Fingerprinting Leaderboard 将对抗性测试转化为公开评测。首个版本主要评估不同技术能否在不降低模型性能的情况下有效嵌入指纹,后续版本将加入对抗鲁棒性评测,检验指纹在有意攻击下的留存能力。Sentient 风险投资与增长总监 Sachi Kamiya 表示,模型指纹可理解为 AI 领域的隐藏标记,用于证明模型所有权。
mlprints 工具库为研究人员提供统一框架,支持实现新指纹方案、开发攻击方法、复现研究,并在相同条件下比较不同技术表现。Sentient 希望通过开放的评测环境,使模型指纹技术接受独立验证,推动开源 AI 生态中来源归属与授权许可机制的建立。
- 2026-10-23 11:48 | 新浪财经:Sentient 推出首个开放基准,测试 AI 模型能否证明自身来源阅读原文
Sentient 研究人员发现,包括 Sentient 自身方案在内,几乎所有接受测试的模型指纹技术都可能被绕过。为此,全新的 Fingerprinting Leaderboard 将通过公开评测,检验哪些技术能够真正经受住模型复制、微调、蒸馏及攻击的考验。训练一个 AI 模型可能需要耗费数百万美元,但一旦模型被复制、微调或蒸馏成另一个模型,要证明它最初来自哪里,就可能变得异常困难。Sentient 研究人员近期测试了十种旨在解决这一问题的技术方案,结果发现,即使不影响模型的实用性,足够复杂的攻击手段仍然能够绕过其中几乎所有方案,包括 Sentient 自己开发的模型指纹技术。如今,Senti...