中国最大独立Token工厂,年亏三个亿

AI的能力日益增强,对Token的消耗也变得极为惊人。

国家数据局的相关统计显示,到2024年3月,我国每日Token的调用量已经突破140万亿,相比2024年初的水平增长了超过1000倍。

Token在各个领域的普遍应用,促使围绕模型调用、推理优化以及Token调度的基础设施建设需求急剧增加。

从常理推断,这似乎为AI发展浪潮中的“卖铲人”提供了绝佳的商机。

但硅基流动的实例表明,市场的实际情况远非如此乐观。

弗若斯特沙利文发布的研究数据指出,若以2025年Token年吞吐量为标准衡量,硅基流动是中国规模最大的独立生态Token服务商。

然而根据它的招股书信息显示,2025年公司实现营收5533万元,但净亏损总额高达3.45亿元,换算下来,每赚取1元收入,就要承担6多元的亏损。

这一现象引发了人们的思考:为何调用Token的需求持续扩张,提供服务的企业反而陷入亏损境地?

文章配图-1

中央厨房

首先需要厘清硅基流动的核心业务模式。

2023年8月,硅基流动成立之初,创始人袁进辉将公司的业务定义为Token工厂。它并不直接提供算力资源,也无意自建大模型,而是充当模型、芯片与应用之间的桥梁,把分散的算力资源及模型能力整合成开发者和企业能够即时调用的服务,以此实现“让模型像水电资源一样易于按需获取”的目标。

袁进辉曾用一个比喻来解释这种模式:算力资源好比是能够直接出售的白菜、土豆等初级原料,客户可以自行加工;或者将这些原料制造成像宫保鸡丁这样的成品菜肴,再提供给客户——硅基流动正是从事后者的业务,颇似一家现代化的中央厨房。

对于开发者和小型企业而言,这种模式极具吸引力。

毕竟对于开发者来说,调用单一模型的API并不构成任何挑战,但随着模型种类的快速增多、芯片生态系统的日益复杂,不同模型在接口设计、性能表现、成本控制以及底层硬件环境等方面存在显著差异,企业若希望自行完成模型适配、推理优化和算力调度工作,将需要投入大量的工程力量。

这正是AI推理通用基础设施的商业机遇所在。今年英伟达GTC大会上,黄仁勋提出了Token工厂的理念,强调“未来的数据中心不再仅仅是存储文件的场所,而将转变为生产Token的工厂”,让这一概念广为流传。

当然,要提供此类服务,不能简单扮演中间商的角色,硅基流动赖以生存的关键在于两项核心技术能力。

首先是自主研制的推理引擎SiliconLLM。

推理引擎的主要作用,本質上是提升GPU的利用效率并增强Token吞吐能力,从而有效降低单位推理成本。

“使用英伟达H100处理405B级别的模型时,许多团队借助开源软件能实现的Token处理速度在30至40每秒……而我们的技术可以达到70至80每秒,甚至在90每秒的水平。”2024年底,袁进辉在一次采访中这样介绍自研推理引擎的优异性能。

其次是异构算力编排系统。

长期以来,大模型主要依托英伟达GPU及其CUDA生态系统进行训练和推理。但随着高端英伟达芯片供应趋于紧张,华为昇腾、沐曦、摩尔线程等国产AI芯片快速进入市场,企业和开发者所面对的算力环境开始呈现碎片化特征。

这种情况导致了模型在不同芯片之间迁移的难题。各种芯片在指令集架构、编译器工具、算子库规格和运行时环境等方面并不兼容,模型往往需要重新进行适配,并对不同硬件平台进行推理流程的专门优化。

具体到硅基流动,该公司自身并不掌控算力设施,而是整合来自云服务提供商、数据中心及其他各类算力合作夥伴的异构算力资源,因此必须攻克不同芯片的统一调度和资源整合难题。

2025年初DeepSeek R1的迅速走红,恰好成为硅基流动两大核心能力的一次实战检验。

据接近硅基流动的行业知情人士透露,早在DeepSeek V2的研发阶段,硅基流动就已着手进行针对MoE架构模型的推理优化工作,同时积极推动国产芯片的适配进程。这些努力,使该公司在R1模型发布后的第二天,就能成功上线基于昇腾芯片的模型服务。

这一举措让硅基流动获得了更多关注者的注意。

依据它的招股书资料,其平台目前已经...