01、
Token（词元）如今成了智能体世界里头等重要的资源，每个智能体消耗的Token量是传统应用的上百倍乃至上千倍。郑纬民教授在世界人工智能大会上剖析说，“这种Token需求正以指数级速度攀升。”
国产算力如何才能破局发展？AI设施又该如何跟上技术迅猛发展的步伐？在大会上，国内相关企业各自分享了看透算力基础设施领域的独特见解。
摩尔线程张建中：开创三大“AI工厂”征战Token经济版图
张建中谈到，从2024年初算起，Token的消耗量一直在指数级攀升。“如今使用大模型的不单是人类，还有各种智能体、代理、分身。”他解释其个人看法。
智能体催生了全新的经济形态——“Token经济”，自OpenClaw在全球范围内火爆起来后，这种经济形态愈发明显。据央视报道的数据显示，我国日均Token调用量从2024年初的大约1000亿，狂飙到2026年3月底的140万亿，增长了超过千倍。
张建中打了个比方，普通人最快读书速度是“一目十行”，可AI瞬间就能看完家里所有书架的书。这种远超人类的阅读、生成、理解和计算速度，直接推高了Token的消耗量。“前沿基础模型每两个月就要迭代一次，Token消耗量跟着飞涨，算力需求自然也呈指数级跳动。”
面对这样的需求，摩尔线程正依托夸娥智算集群，兴建三大“AI工厂”：专门搞模型训练的“模型训练工厂”，用来提升推理效率的“Token生产工厂”，以及将数字世界和物理世界高效连接、离消费者最近的“智能体生产工厂”。
张建中坦言，他经常听到国内模型公司担心采用国产训练平台会拖慢研发进度，“大家完全不用有这个顾虑，我们拥有更高级的硬件平台和软件技术，还积累了大量实验数据。再说了，我们还随时能为用户提供本地化服务，这方面肯定比国外公司做得强。”
无问芯穹夏立雪：智能驱动智能发展
“计算需求正指数级扩张，如今仅靠线性堆砌算力已无法弥补供需间的鸿沟。”夏立雪评述道。这一观点背后，是AI产业竞争逻辑的根本性转变——行业不再只是比拼算力规模，更注重算力的使用效率。话说回来，单纯“堆”算力，已经“堆”不动了。
长期以来，中国的算力资源来自不同地区、不同厂商、不同代际的算力集群，国产芯片和海外GPU并行存在，各自架构和软件差异很大。夏立雪认为，算力的异构化、碎片化问题是全球性的。要想把不同区域、不同种类的算力资源高效整合起来，是扩大智能资源规模的关键所在。
如何让那些散落在各处、差异巨大的算力“活”起来？夏立雪给出的方案是——“前店后厂一中心”。
这里的“中心”，指的是充当“算力集散中心”的自主式基础设施平台，它需要把零散的、异构的算力资源统一汇聚、灵活调度、按需分发，为模型和应用层奠定坚实、稳定、可扩展的算力基础。
“前店”，是指“AI生产力商店”——面向文娱游戏、医疗、法律、能源等行业，与行业联手打造解决方案，把Token真正转变成产业认可的生产力。
“后厂”，是指建设一座“Token工厂”，用极致的效率服务Token的规模化生产和高质量制造。他用千卡到万卡规模下进行完整推理服务的过程，道出了Token工厂内部可优化的广阔空间，“从网关、路由，到最底层的推理实例，每一步都能优化，处处都有提升余地。”
经过大规模生产环境的验证，这套系统的价值正逐步显现：运维人效提升五倍以上，关键故障处理效率提高六倍。它不仅为大规模GPU训练和推理业务提供了更稳定、更高效的基础设施保障，也让运维人员得以从繁重的任务中解脱出来，去钻研更有价值的技术创新。
商汤科技杨帆：国产AI基础设施迎来规模化应用机遇
“未来五年，（AI基础设施的）国产化替代绝不仅仅是GPU（图形处理器）的替代，而是整个AI上游硬件生态体系的重构，为行业开辟了全新的发展蓝海。”商汤科技联合创始人、大装置事业群总裁杨帆这样认为。AI基础设施正迎来重要的转折点：Token市场爆发式增长，下游需求快速增多；国产芯片商业化步伐加快，以国产算力为核心的智算中心加速落地。多重利好因素共同作用下，国产AI基础设施规模化商用的窗口期已全面打开。
在此基础上，商汤大装置围绕“算力+平台+服务”全栈能力，构建面向智能体AI时代的基建体系。在算力层，商汤大装置瞄准国产算力从“落地可用”到“规模化商用”的目标，突破多项关键技术。通过异构混合推理，商汤大装置让国产芯片MFU（模型浮点运算利用率）提升到85%到152%，整体推理性价比达到了国际巨头英伟达专为超大规模AI训练和高性能计算而设计的NVIDIA H系列的1.25倍。目前，商汤大装置日均Token服务量已达2.42万亿，预计2026年全年服务规模将实现25倍增长。
随着Token经济时代的到来，如何让每一度电都持续创造更多价值的Token，变成了AI基础设施发展的核心命题。围绕“算电协同”，商汤大装置与晶科科技、中国联通上海市分公司、华能上海、宁德时代浦泉资本、协鑫能科、达卯科技等企业签署战略协议，共同打造面向源网荷储一体化的算电协同生态，推动能源系统与AI基础设施的深度融合。
来源：北京日报客户端
记者：孙奇茹
文章配图-1