推理数据量首超训练:AI 的重心从上学转到了上班,算力账本要跟着重写
一、一次不太上头条的倒挂
2026 年 11 月 2 日,通信世界晨读援引了一份趋势报告:《新域新质创新发展十大趋势》。里面的数据显示,我国人工智能推理数据量首次超过训练数据量,截至 6 月,日均词元调用量超过 175 万亿。
这条新闻没有新模型发布那么抢眼,但它标记的是一件结构性的事。过去两年,公众对 AI 的认知几乎全部建立在训练侧:谁又发了模型、参数多大、榜单排名如何。训练数据量的持续增长,本质上是整个行业还在造工具的阶段。而推理反超训练,说明更大规模的算力消耗已经发生在用工具的现场。上学和上班的账,第一次对调了。
二、上班和上学,花的是两种钱
训练和推理对基础设施的要求差异很大,这个差别正在改写硬件的采购逻辑。
训练像一场几千人的同步大合唱,上万张加速卡要像一个整体一样协同。任何一张卡掉线,整轮任务都可能重来。所以训练吃的是集群规模、互联带宽和长周期稳定运行。推理更像流水线上的一次次接单:单次计算量小,但请求海量、要求响应快,而且分布在离用户更近的地方。
这个差别已经反映到数据上。中国移动呼和浩特智算中心公开披露的信息显示,其万卡集群通过高速互联把线性加速比提到 90% 以上,模型训练最长无中断时长达到 22 天。这类工程能力服务的是训练侧;而推理侧的需求,正沿着应用、终端、边缘节点散开,不再集中在少数几个超级集群里。
三、CPU 回到账本中央
推理时代最先被重新定价的是服务器 CPU。
TrendForce 集邦咨询 11 月 1 日发布的研究指出,随着各家推出 AI 智能体应用,服务器 CPU 需求从 2025 年下半年起稳步成长,预估 2026 年出货年增 31%,2027 年再增逾 40%。
逻辑不难理解。智能体干活不是简单生成一段文字,它要拆解任务、检索资料、调用外部工具、汇总结果,这些调度类工作主要由 CPU 承担。前两年 AI 服务器的默认配置是 GPU 为主、CPU 为辅;当智能体从问答工具变成执行员工,单机里 CPU 的角色和功耗预算都在往上走。上游动作也在跟进:日本村田 10 月 30 日官宣五年投入约 1 万亿日元扩产高端 MLCC,直接点名的需求方就是 AI 服务器。一颗最不起眼的电容被拿来赌五年周期,说明上游对这条需求曲线的判断相当长。
四、钱的一侧:扩建与质疑同周出现
需求变热,钱的信号却是一边发烫一边发凉。
发烫的一面,国际能源署的统计口径下,五大科技公司 2025 年资本开支合计超过 4000 亿美元,2026 年预计再涨 75%。这个数已超过全球油气开采的年度投资。发凉的一面,亚马逊 10 月 29 日三季报里,AWS 收入和营业利润率创新高,AI 开支激增却带来负现金流,股价一度跌 7%。
同一家公司,同一份财报,市场给的两面评价说明一件事:投资者已经不再为规模本身付钱,开始要求把投入和回报之间的链路讲清楚。这对整个行业是个健康的信号,它逼着钱从更大流向更值。
五、接下来看什么
对普通观察者,下一个可验证的信号在 11 月上旬:国内主要云厂商将陆续召开三季度业绩会,重点看资本开支指引的结构变化。推理需求如果是真的,新增投入应该向推理侧、边缘侧倾斜;如果口径还是集中在训练集群,那这次倒挂就还只是统计意义上的事件。
第二个信号看政策配套。国家能源局 10 月 30 日通报,截至 9 月底全国已有 24 个省份发布绿电直连配套文件,批复的算力设施绿电直连项目 12 个。推理需求分散到边缘之后,电力配套能不能跟上分布式节奏,决定了这轮重心的转移能走多快。
上学和上班的账对调之后,算力行业真正的问题变了:不再是能不能造出更大的集群,而是能不能把每一次调用都变成算得过账的服务。这个问题没有标准答案,接下来几个季度的财报和订单会陆续给出各自的回答。
以上内容来自公开报道与机构数据整理,不构成任何投资建议。