中科院团队提出几何率失真不变性算法,突破深度学习模型跨域泛化难题

By AI123

近日,中国科学院过程工程所生物药制备与递送全国重点实验室研究员白硕团队提出“几何率失真不变性”(Geometric Rate-Distortion Invariance, RDI)新算法,旨在解决深度学习模型在跨域数据场景下判别性能骤降的难题。相关成果发表于国际人工智能领域顶级会议ICML 2026。

在实际应用中,深度学习模型在训练与测试数据分布一致时性能卓越,但在脑机接口、医学影像等场景下,受试者个体差异、传感器漂移、采集环境变化等因素常导致数据分布偏移,模型性能大幅下降。现有领域泛化方法多聚焦于匹配不同域之间的边缘分布或梯度统计量,在有限样本下容易出现对齐失稳甚至表示坍缩。

该团队提出的RDI框架利用深度学习特征在实际分布中的低维几何结构构建分类依据,使不同来源数据中同一类别的特征方向趋于一致以消除域间偏差,同时控制每个类别特征分布的“体积”,防止其过度坍缩,从而保留类别间的判别差异。实验显示,RDI具备任务自适应的调控能力,在类别较少时扩展有效特征维度,在类别繁多时压缩冗余信息。在DomainBed标准测试集上,RDI的平均准确率显著超越现有主流不变性学习方法,并在CNN(ResNet)与ViT(DeiT)等不同架构上表现稳健。

该论文第一作者为过程工程所博士生刘彤,研究员白硕与副研究员梁森为共同通讯作者。

Explore topicsCross-Domain GeneralizationICMLModels

Source

View all