国家数据局:我国词元调用量快速攀升 两年增长超5000倍
By AI123
国家数据局8月29日表示,当前大模型加速向千行百业深度落地,带动我国词元调用量快速攀升,市场需求呈现爆发式增长,实践中已演化出不同类型的词元工厂形态。
词元(token)是人工智能大模型处理信息的最小单元。记者探访了北京一座新落成的“词元工厂”,上万平方米的机房是车间,消耗的原料是电力,源源不断生产出的产品就是词元。工厂部署了几十种国产大模型,用户请求到达的瞬间,词元生产立即启动,因此这座工厂也是24小时运转的工厂。
运营负责人介绍,白天词元调用量处于较高水平,每小时最高峰可产出超过10亿词元。凌晨0时到4时也出现消耗波峰,主要包括互联网平台智能客服的夜间应答、软件测试、数据批量加工,以及近期快速增长的AI漫剧生成和渲染等业务。最新数据显示,随着人工智能应用的爆发式增长,我国日均词元调用量已突破500万亿,两年时间增长超5000倍。
新需求也催生了算力优化师等新职业。从业者将零散的国产算力“批发”后按用量提供给用户,通过算法监测和调度,自动匹配最优模型组合与算力供给,帮助用户降低使用人工智能的时间和花费。
国家数据发展研究院院长胡坚波表示,企业应用AI的门槛从“建电站”降到了“插电卡”,不再需要自建算力中心,只需按照词元消耗量付费,从“为算力买单”变为“为效果付费”。目前词元应用在音视频编辑、编程等服务类场景中较为活跃,金融机构用词元计量风控成本,医疗机构用词元核算人工智能辅助诊断费用,按词元计费正成为专业服务领域的新型计价探索方向。在制造业、农业等实体经济领域,词元渗透率仍然较低,相关商业模式也较为单一。
Explore topicsAICompute PowerPolicyNational Data Administration元寻
