一、一台AI服务器交付到用户手中后
1、一台AI服务器交付到用户手中后
纸面算力与实际产出之间的鸿沟有多大?
WAIC 2026现场,多位行业人士给出了一个令人不安的参考数字:不到30%。
也就是说,一台AI服务器交付到用户手中后,真正被有效利用的算力,可能连规格表上数字的三成都不到。
这并非个别人的判断。不同领域的芯片企业,不约而同地把话题从“算力有多大”转向了“算力用得好不好”。
2、AI产业跨过“能不能”的第一道门槛
这种叙事方式的转变本身就是一个信号:AI产业已经跨过“能不能”的第一道门槛,向“好用”阶段迈进。
这个阶段的核心矛盾,正在从芯片本身向上迁移。
01
推理超越训练:不是预测,是既成事实
2024年,行业热钱几乎全部涌向训练侧;2026年,推理对于算力调用量已经超过训练。
二、这意味着推理芯片的竞争深入到模型层的调度效率
1、正在成为芯片产品的核心卖点
训练芯片追求的是“学得更好”,推理芯片追求的是“用得更省”。
曦望智能商业产品与解决方案高级总监付庆平表示,两种不同的设计哲学,对应的是两种不同的商业逻辑。
推理调度的粒度正在从任务级细化到算子级:“越细粒度越高效,每高效一分,token成本就降一分。
” 这意味着推理芯片的竞争已经深入到模型层的调度效率,一个看似属于软件范畴的维度,正在成为芯片产品的核心卖点。
2、VPU+GPU协同有望将视频生成成本
从视频处理的视角看,推理需求的爆发更为直观。
VPU厂商判断未来80%的视频将由AI生成,而据测算,视频生成的token消耗是文字生成的1000倍。
据介绍,通过将视频相关计算从GPU中剥离出来交给专用芯片处理,VPU+GPU协同有望将视频生成成本降低8成。
后摩智能战略生态VP杨大卫表示:“训练决定模型能力上限,推理决定AI能不能大范围落地。
” 当推理成为产业主轴,芯片行业的需求结构随之改变。
三、成为行业共识镕铭微电子联合创始人兼CEO朱
云端需要规模化推理芯片,视频场景需要VPU,端侧快思考需要NPU,低功耗端侧推理需要存算一体架构。
通用GPU不再是唯一答案,专用化正在从理论讨论变成商业现实。
1、02:算力经济学,成为行业共识
镕铭微电子联合创始人兼CEO朱照远认为算力成本降低的根本原因是效率提升。
用交通方式的升级来理解硬件产品的更新:从马车到汽车再到火车,同样从A点到B点,成本是降低的,但降低的根本原因不在于“省”,而在于效率的“升”。
,评价标准
。
端侧推理的三大刚需是隐私、成本和物理世界交互的延时
四、不是你的考试分数与而是你的工作结果
,
1、03:物理AI元年:具身智能走到哪了
2、04:软件生态
3、软件生态:交付一台
4、AI:还有着相当大的
工作量。

远见网
