一、英伟达将“CPU is the host
1、英伟达将“CPU is the ho
回顾2006年,英伟达将“CPU is the host,GPU is the device”写在了CUDA编程手册的第一章。
毕竟,CPU焊在主板上,GPU插在槽上,这就是最客观的物理事实。
此后二十年,GPU狂飙突进,登顶算力王座;英伟达也从一个配角厂商,长成了AI基础设施的绝对统治者。
就在英伟达H100芯片被炒至4万美元高价仍一芯难求时,AI算力的瓶颈也愈加显现。
此时再回看“CPU is the host,GPU is the device”,它其实有另一种翻译方式:
2023年,英伟达推出Grace CPU,标志着它“All in GPU”的长期战略,就此转变为“CPU+GPU异构协同”。
而在随后的2024年,另一芯片巨头AMD的CEO苏姿丰(Lisa Su),也在媒体采访中指出:“过去三四年全球CPU市场增长相对平稳,年增长率仅在3%至4%之间;
但随着AI浪潮的驱动,未来五年全球CPU市场的年均增长率将飙升至35%以上。”
CPU重获重视,这并非预言成真,而是大厂们在现实的账单里一笔一笔算出来的。
2、叫“边际收益递减”——随着GPU规模
这笔账,叫“边际收益递减”——随着GPU规模的扩大,每增加一块GPU提升的算力都在悄悄变小。
芯片领域,有指导发展的摩尔定律,AI赛道也有自己的定律,业界将其称为“尺度定律(Scaling Law)”。
大致意思是,你把大模型的算力翻10倍,性能却可能只涨2-3倍。
因此大众虽然总能看到大模型的性能飞涨,大厂看到的却是性能每涨一截,需要的原料都比往常更多、更贵。
所以过去两年,为喂养“大模型”这只巨兽,微软、谷歌、Meta、亚马逊四家的年度资本支出(CapEx)总额,从2021年的千亿美元量级,跃升至2024年的大约两千三百亿美元,约合1.7万亿人民币。
这笔巨款主要投向数据中心建设、GPU抢购、以及稀缺的电力配额。
在微软更早的披露中显示,早在2022年,它就为OpenAI部署了由上万张A100组成的数据中心,专供大模型训练。
而Meta创始人马克·艾略特·扎克伯格(Mark Elliot Zuckerberg),在2024年也在Instagram上公开指出:“到2024年底,我们会拥有约35万块英伟达H100,如果算上其他GPU(AMD等),算力大约相当于60万块H100。
”
在美国弗吉尼亚州北部,全球最大的数据中心聚集地,企业如果想建设新的数据中心,光通电这一项,就要排队等3-5年。
二、还在呈交监管机构的文件中指出
1、还在呈交监管机构的文件中指出
Meta在俄亥俄州新奥尔巴尼的园区数据中心旁边,建了一座仅供自家使用的燃气发电站。
2022年11月发布的ChatGPT,5天内注册破百万,2个月,月活数据破1亿。
到2023年底,全球科技企业都在讨论Agent智能体,并将其认定为AI产业的未来。
科技这行最迷人的地方,就在于天花板高得看不见顶,商业模式一旦跑通,便能捕获超额收益。
据公开测算,截至2026年,微软、谷歌、Meta、亚马逊的累计AI资本支出,将突破6000亿美元。
2、“投资不足的风险
而据兴业证券的一份报告显示,截止到2025年底,全球仍有近80%部署AI的企业,暂时未能实现净利润的提升。
大厂们面对AI产业如此严峻的风险与挑战,表现出近乎疯狂的一致性。
谷歌CEO桑达尔·皮查伊(Sundar Pichai),在2024年7月的二季度财报电话会议中表达出对AI投资的紧迫性:“投资不足的风险,远大于投资过度的风险。
”
亚马逊CEO安迪·贾西(Andy Jassy)在同年三季度财报会议中说出类似的话:“这是极其庞大、也许一辈子遇不上一次的机会。
这也是为什么现在的Agent用户,眼睛都紧紧盯着Token成本。
远的不说,就说义乌,全球最大的小商品集散地,数万家商家已把AI Agent当日常,文案生成、多语言翻译、配音、视频生成,全流程自动化。
三、每输出百万Token大概要15美元
在头部厂商纷纷亮出Agent底牌的今天,Token成本是公开透明的。
比如由Anthropic开发的Claude Sonnet 4.x这种旗舰档的Agent,每输出百万Token大概要15美元,在Agent循环计算不翻大车的情况下,一家小公司一个月用不了多少钱。
Anthropic联合创始人兼首席执行官达里奥・阿莫代伊(Dario Amodei)
有商家试水OpenClaw这类工具,原本几百块的AI月账单,直接飙到5000元级别。
Claude大模型背后的开发商Anthropic,在拆解多Agent系统时曾给出过一组数据:单一智能体完成一次典型任务,Token消耗是普通对话的4倍;
多Agent协作场景下,这个数字能被拉到15倍。
1、Agent都能提炼其中最有用的一小部
它的目标就是不管商家丢给Agent多么杂乱的一堆需求,Agent都能提炼其中最有用的一小部分,然后拿出一个尽可能让用户满意的成果。
只要对Token压之有道,即便避免不了循环失误带来的费用增长,也能帮商家节省开销。
不过啊,技术这东西,台前的演示轻描淡写,台下的每个环节,都足以让厂商们吐一口老血。
当资本拿出高估值,企业就要高定价、强概念、爆产品。代价就是不落地、更新慢,甚至损失用户体验。
到如今,各国大厂都已经在全球部署了巨大体量的算力基建,那些曾被不同程度耽误的用户体验,也该被提上日程,升级一下了。
在物欲横流,产品广告比真实世界更流光溢彩的今天,很多人已经遗忘了这个词的真实含义。
大家可以想想,小到一辆自行车、一台笔记本电脑,大到一座房子、一份工作,我们普通人想要的体验,是不是就这几样?
四、但本质上还是通过技术解决伦理问题
1、也就是说与不用花太多钱
它本质上是一个非常古老的概念:商业伦理——为了让你下次还敢买我的东西,我今天就不能骗你。
也就是说,在公关稿里说好的爆炸式体验、能节省时间和体力、不用花太多钱,这几个基本点,Agent和大模型们都必须实现。
2、”:2、Agent会出错
从技术角度看,这是提升产品的可靠性。但本质上还是通过技术解决伦理问题。
早年的科幻片,总爱塑造毫无瑕疵的完美英雄——肌肉发达、意志坚定、单手就能拯救地球。
《流浪地球》里,主角不是超人,是一群为了家人、为了活着而挣扎的普通人;
当人类看不清自己的时候,幻想一个拯救世界的硬汉,其实毫无意义。
AI科技的终极使命,也不是用更尖锐的风格、更快的速度,让全人类顶礼膜拜。
本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。

远见网
