AI落地,还差一口气

一、一台AI服务器交付到用户手中后

1、一台AI服务器交付到用户手中后

纸面算力与实际产出之间的鸿沟有多大?

WAIC 2026现场,多位行业人士给出了一个令人不安的参考数字:不到30%。

也就是说,一台AI服务器交付到用户手中后,真正被有效利用的算力,可能连规格表上数字的三成都不到。

这并非个别人的判断。不同领域的芯片企业,不约而同地把话题从“算力有多大”转向了“算力用得好不好”。

2、AI产业跨过“能不能”的第一道门槛

这种叙事方式的转变本身就是一个信号:AI产业已经跨过“能不能”的第一道门槛,向“好用”阶段迈进。

这个阶段的核心矛盾,正在从芯片本身向上迁移。

01

推理超越训练:不是预测,是既成事实

2024年,行业热钱几乎全部涌向训练侧;2026年,推理对于算力调用量已经超过训练。

二、这意味着推理芯片的竞争深入到模型层的调度效率

1、正在成为芯片产品的核心卖点

训练芯片追求的是“学得更好”,推理芯片追求的是“用得更省”。

曦望智能商业产品与解决方案高级总监付庆平表示,两种不同的设计哲学,对应的是两种不同的商业逻辑。

推理调度的粒度正在从任务级细化到算子级:“越细粒度越高效,每高效一分,token成本就降一分。

” 这意味着推理芯片的竞争已经深入到模型层的调度效率,一个看似属于软件范畴的维度,正在成为芯片产品的核心卖点。

2、VPU+GPU协同有望将视频生成成本

从视频处理的视角看,推理需求的爆发更为直观。

VPU厂商判断未来80%的视频将由AI生成,而据测算,视频生成的token消耗是文字生成的1000倍。

据介绍,通过将视频相关计算从GPU中剥离出来交给专用芯片处理,VPU+GPU协同有望将视频生成成本降低8成。

后摩智能战略生态VP杨大卫表示:“训练决定模型能力上限,推理决定AI能不能大范围落地。

” 当推理成为产业主轴,芯片行业的需求结构随之改变。

三、成为行业共识镕铭微电子联合创始人兼CEO朱

云端需要规模化推理芯片,视频场景需要VPU,端侧快思考需要NPU,低功耗端侧推理需要存算一体架构。

通用GPU不再是唯一答案,专用化正在从理论讨论变成商业现实。

1、02:算力经济学,成为行业共识

镕铭微电子联合创始人兼CEO朱照远认为算力成本降低的根本原因是效率提升。

用交通方式的升级来理解硬件产品的更新:从马车到汽车再到火车,同样从A点到B点,成本是降低的,但降低的根本原因不在于“省”,而在于效率的“升”。

,评价标准

端侧推理的三大刚需是隐私、成本和物理世界交互的延时

四、不是你的考试分数与而是你的工作结果

1、03:物理AI元年:具身智能走到哪了

2、04:软件生态

3、软件生态:交付一台

4、AI:还有着相当大的

工作量。

5、软件生态:软件生态

来源: 投资界-首发
产业标签 算力中国/国产GPU/AI芯片
赞(1) 支持本站
分享到

支持本站持续更新

如果这篇内容对你有帮助,欢迎扫码支持。

支付宝扫一扫

微信扫一扫

登录

找回密码

注册