NVIDIA中国区副总裁赖俊杰：智能体任务或涉及50至500次模型调用

2026年10月22日，NVIDIA中国区工程和解决方案副总裁赖俊杰在一场播客对话中阐述“Token经济学”框架。他认为，随着AI应用从试点走向规模化，Token正从技术指标变成经营指标，企业需要像管理生产系统一样，衡量Token的产量、效率与业务价值。

赖俊杰解释，Token是AI模型处理和生成信息的基本单位，也是AI工厂产出的产品单元。每单位Token的成本，由数据中心每小时综合运营成本除以同期实时交付的Token数量决定，GPU、CPU、网络、存储、供电等整体效率都会影响这一成本。

随着智能体进入企业，一个任务可能涉及50至500次甚至更多的连续模型调用，多智能体协作还会进一步放大Token消耗，令需求预测变得更加复杂。赖俊杰认为，判断Token价值需要考察智能含量和交互性，并落到具体用例上，例如医疗、金融场景对准确性和可靠性要求更高。

NVIDIA将Token经济学概括为四个支柱：Token的价值、需求、供给和变现。价值维度关注AI输出是否解决业务问题；需求维度关注不同用户和场景的调用规模；供给维度关注如何通过模型、算力和基础设施规划提高效率、降低成本；变现维度关注Token使用能否转化为商业回报。

赖俊杰建议，企业应把评估标准从投入指标转向产出指标，衡量每笔Token投入换回的业务结果。这场对话来自产业媒体光锥智能与赖俊杰的播客交流，内容还包括Token需求预测、基础设施效率和企业AI经营等话题。