小米发布通用表格数据基础大模型Xiaomi-TabLDM,四大基准评测跻身第一梯队

By AI123

9月5日,小米正式发布通用表格数据基础大模型Xiaomi-TabLDM。该模型采用单一预训练模型与统一默认配置,可直接适配不同表格数据集,无需针对每个任务重新训练、调参或后置集成,即可完成分类与回归预测。

在四大公开基准评测中,Xiaomi-TabLDM均跻身第一梯队。其中,回归能力在OpenML-CTR23榜单排名第一,在TALENT、TabArena和BCCO的回归任务中均排名第二,同时在TALENT二分类任务中同样位列第一。以TabArena回归任务为例,该模型在取得第二高Elo评分的同时,训练时间比排名第一的TabFM减少82%,预测时间减少68%。

技术层面,Xiaomi-TabLDM基于结构因果模型(SCM)生成的大规模合成数据进行预训练,覆盖不同数据规模、变量类型、依赖关系和函数关系。模型架构引入双流特征分组、轻量级注意力残差与稀疏混合专家,以建模特征关系并扩大模型容量;推理阶段还探索了Test-Time Scaling,在不改变预训练模型参数的情况下,通过增加推理计算量提升预测性能。

在真实工业场景中,该模型也展现出较高的预测精度与跨工况适应能力。例如在材料性能预测场景下,无需微调即可将预测精度提升130%,减少约90%的无效试模与装机测试;在零件重量预测场景中,失误样本比例相比XGBoost降低约31%。此外,该模型提供scikit-learn兼容接口,可通过pip安装使用。目前,Xiaomi-TabLDM的相关模型权重与代码已正式开源。

Explore topicsModelsOpen SourceXiaomiXiaomi-TabLDM

Sources

View all