听新闻
最近相关数据平台显示,中国AI大模型周调用量连续三周超越美国。这背后的计量单位是一个科技圈流行的新词儿——“Token”!Token是啥?它和大模型、算力甚至电力有啥关系?总台央视科技记者张春玲为您一一解析。
最近,科技圈流行起来一个新词儿——Token。3月24日,国家数据局在官方发布中首次提到Token的标准中文译名——“词元”。
简单来说,Token就是AI大模型处理信息的基本单位,我们以字为单位来读书写字,对于大模型,这个输入输出的单位就是Token。在AI的眼里,一个Token可能是零点几个汉字、单词,也可能一个标点、数字或者符号。它就像AI时代手机的流量一样,每一个AI模型厂商都会提供自己的Token,并且以它的消耗量为单位向用户收费。
过去的几个月里,随着“龙虾”智能体的爆火,全球的Token调用量迎来了新一轮的暴涨。而和之前很不一样的是,这一次中国AI大模型的Token调用量,历史上首次全面超越美国。
为什么全世界都在用中国的Token? 核心原因那就是物美还价廉。

我们要知道,Token并不是凭空产生的,它是由高性能的GPU在消耗大量的电能,完成数千亿次的推理运算后产生的数字资产。每生成一个Token都对应着真实的推理过程,也对应着真实的电力消耗和算力消耗。
而中国大模型公司之所以能够把Token价格做得更低,主要原因:
第一是我们的电力优势。中国拥有更完善的电力基础设施和技术体系,尤其是在西部地区丰富的新能源绿电,正在与数据中心算力、枢纽加快耦合,把电直接转化成AI时代的新型服务能力。
第二是技术能力。近年来中国科技企业在推理芯片、模型架构和系统优化上持续突破,这意味着面对同样一个问题,中国的大模型往往可以用更少的算力,更短的时延,更高的能效,就把答案给算出来。
有人说Token将是AI时代新的能源单位,中国电力、中国算力正在以一种全新的方式参与着全球的竞争。
(总台央视记者 张春玲 李峻)
分享成功
相关推荐
参与评论积分 龙珠商城兑好礼
打开第1眼TV-华龙网查看全部评论 >