一、字节跳动通过银团贷款296亿美元
最近,字节跳动通过银团贷款296亿美元,阿里巴巴800亿港元配售,再往前几个月,谷歌和亚马逊融了800多亿美元,NVIDIA抛出5000亿美元“大计划”,全球所有大厂都在疯狂找钱,花钱的方向只有一个:AI基建。
宏大叙事一点说,近代产业史每一轮重塑时代格局的底层机遇,本质都是一场顶级的基建升级。
19世纪轰轰烈烈的铁路狂热和美国西部淘金热、国内的房地产城镇化,再到现在的全球AI基建热,虽然资本大手笔砸钱的过程,可能市场争议不会断,过程也会伴随着泡沫,但最后沉淀下来的基础设施,能稳稳托举未来几十年的产业发展。
只不过跟之前的全球基建相比,这场AI基建的覆盖范围更广,砸钱规模史无前例,产业迭代也快得离谱,争议自然也更大。
7月份,AI基建就经历了一轮剧烈波动,资本市场对AI基建的巨额投入,和回报之间的gap产生了疑问。
无脑堆卡、疯狂扩集群的粗放时代还没结束,但市场开始关心,砸出去上万亿算力投资,未来真的能赚到钱吗?
这是在资本端和产业端的变化信号。
而与去年的区别是,今年大家能明显感觉到,普通用户已经开始常态化使用各类桌面Agent。
AI不再是简单的聊天工具,真正变成了可以自动运行、循环干活的智能体。今年是真正的Agent元年。
1、而且现在还有个挺拧巴
C端智能体开始大范围普及,也让Token消耗不断超出预计。今年3月国内日均Token调用突破140万亿,相比2024年初直接翻了千倍以上。
而且现在还有个挺拧巴的问题。都在喊缺卡,抢算力,但实际上还有大量GPU天天在空转、闲置和浪费。
卡内基梅隆大学做了一次实测,用756张GPU连续跑了31天,发现集群近两成的时间都在“等待”。
比如OpenAI的推理业务,一半以上能耗都耗在了空转上;国内智算中心更夸张,GPU平均利用率还不到30%。
前几年,AI基建野蛮生长,堆规模还能掩盖住效率问题。
但现在快到了要回报的时刻,拼的是谁能把Token成本打下来、谁能把算力利用率提上去。
效率,成了AI Infra新的胜负手。于是现在紧要的问题是,空转的算力怎么盘活,推理成本怎么打下来。
而随着AI Infra的行情进入深水区,行业噪音也逐渐多了起来。
AI赛道铺得太开,芯片、电力、硬件、软件、模型、应用层层叠加,每天都有新融资、新故事、新概念冒出来,每一方都在讲符合自己利益的自洽的版本。
二、长期红利与短期泡沫的比例是多少
1、长期红利与短期泡沫的比例是多少
就如《信号与噪声》所说,信息爆炸的时代,噪音永远比信号多、比信号快。
AI行业正处于这种状态,大家都在讲狂热的长线故事,但没人敢笃定短期的确定性。
千亿级基建投入,长期红利和短期泡沫的比例是多少?AI Infra到底有没有真壁垒?
市场情绪降温,会不会影响一级市场融资和退出?中美在AI Infra的差别和差距在哪里?又哪些弯道超车的机会?
这些问题需要去掉“噪声”,找到那些真正的“信号”。
带着这些趋势和问题,投中网联合中关村科学城公司、中关村创业大街共同举办了,“Agent元年,重构AI Infra新势力”深度闭门沙龙,本次沙龙由投中网主编曹伟钰、副主编张楠主持,参与嘉宾包括:
九章云极联合创始人暨COO尚明栋、海松资本董事总经理刘忱、象帝先副总经理王耀宇、趋境科技总裁兼CFO武文洁、君科丹木管理合伙人张瑞琪、冯源资本执行董事刘思远、特斯联AI Infra业务总经理刘跃、燕缘创投管理合伙人李军、科安创能创始人兼CEO姜伟、祥峰投资执行董事姜煦、未名智芯联合创始人陈凤云、水木梧桐创投董事总经理杨锐、真成投资管理合伙人李剑威、焦耳传热总经理刘旭、荆华密算副总裁王珂、光擎源COO张振、蔻町智能Co-Founder&CTO陈秋武。
在本次的AI Infra沙龙中,九章云极、特斯联、趋境科技,都是国内核心的Token直接供给玩家。
凭借自研调度、异构整合与全链路优化能力,它们有各自的思路解决GPU空转、算力利用率低、推理成本高昂等问题。
2、美国市场算力供给呈现高度集中的格局
恰逢Agent规模化爆发,全网Token需求井喷,这类能实实在在提效降本、稳定算力供给的企业,已然成为AI Infra精细化升级的核心底层支撑。
九章云极在国内布局了12个智算中心节点,并已拓展至东南亚市场,业务覆盖智算新云、训练工厂与Token工厂三大板块。
九章云极联合创始人暨COO尚明栋观察到一个行业趋势:美国市场算力供给呈现高度集中的格局,头部云厂商与AI基础设施公司形成了紧密的生态协同;
中国市场则更多由实际需求驱动,呈现出更分散、更贴近产业的特点。
趋境科技核心团队成员具有清华大学计算机系高性能计算研究所的科研和工程背景,承接了相关团队十余年的技术积累,研发核心团队成员多具有清华背景。
2023年底成立时,正值“百模大战”热度较高的阶段,趋境科技就选定了推理明确聚焦大模型推理,这在当时的行业创业公司中并不多见。
趋境科技总裁兼CFO武文洁三年前还是这一行业的投资人和研究者,如今投身创业。
她的感触是:“真正的创业者、实践者还是深感国产卡和海外高性能卡有很大的差距,获得这些卡越来越难。”
特斯联AI Infra业务负责人刘跃看的是场景这一端。
三、截至目前与服务超过900个客户
1、截至目前与服务超过900个客户
特斯联2015年成立于重庆,从AIoT场景做起,一路成长为AI-IoT独角兽,股东阵容涵盖国央企、IDG资本、AL Capital等知名投资机构,以及京东、科大讯飞、商汤等头部产业资本;
截至目前,其产品已部署于全球170多个城市、服务超过900个客户。
他的核心观点是:特斯联的打法是用垂直场景驱动AI Infra和Agent的产品迭代,这与市面上以通用Token服务和算力租赁为主的路径不是一回事。
“美国厂商更多集中在基础设施和上层通用模型;国内市场不一样,场景密度高、产业门类全,应用层百花齐放。”
芯片这一层的差距,还有另一种形态。
海松资本董事总经理刘忱举例说,现在有一些专做推理芯片的新公司,甚至直接把某家模型公司的架构写进芯片,等于给一款模型做一颗专用芯片,运行效率比现有方案高出100倍。
代价也明显,换个模型,或者模型一迭代,这颗芯片就用不上了。
刘忱进一步解释说,从绝对的通用性到绝对的效率有很多中间地带,每个芯片解决的只是中间地带的某个场景,“很难通过一个公司、一个产品解决所有的问题”,大厂买不了整个公司,就买人、买专利。
2、象帝先王耀宇的判断是
国产通用GPU这一路,象帝先的经历本身就很说明问题。
象帝先2020年9月在重庆成立,创始人唐志敏参与过龙芯1号、2号的研发,也是海光信息的创始人之一,80%的研发人员来自海光同芯,在售产品已到第三代。
公司累计融资约30亿元,估值一度到过150亿元,但资金压力一直悬在头顶,2025年靠投资方数亿元战略投资缓了过来,今年4月已与中信建投证券签约启动上市前各项准备工作。
象帝先王耀宇的判断是,NVIDIA不是纯粹的硬件公司,制胜在软件,打通了CUDA生态,各家软硬件基于生态对接才形成行业壁垒。
“目前国内还没有能力做到这个程度,国产GPU市场要想做成完全通用化难度确实很大,因为没有行业统一的接口。
” 他给出的路径是先定制化,“区别于通用化的难度,国产芯片企业可以达成,应该是比通用化更快。
随着AI Agent的需求迅速扩大,通过定制化,国产GPU可以满足快速增长的市场需求”。
而且海内外芯片供给的差距,相比过去还在进一步拉大。
AIGCode联合创始人&CTO陈秋武在沙龙现场给出一组直观对比数据,去年NVIDIA产出的算力卡规模,是昇腾的100倍,到了今年,这一差距进一步扩大到约200倍。
四、中美会慢慢形成两套不一样的体系
1、美元基金天生拥有双币视角
作为长期深度适配国产算力的技术团队,AIGCode一直在做国产芯片的训练及推理性能优化工作,服务对象不仅有昇腾,近期也陆续承接了国内大厂的模型训练及推理优化需求。
团队的国产大模型适配能力也在快速迭代,2025年底就已经和海思合作完成130B参数模型的预训练工作,时至今日,已经可以在国产硬件底座上完成700B参数大模型的训练任务。
但硬件产能的硬鸿沟依然客观存在,即便软件优化可以把单卡、集群的有效算力往上拉,硬件供给总量的不足,依旧是国产AI Infra绕不开的现实约束。
君科丹木管理合伙人张瑞琪之前在君联资本天使基金,美元基金天生拥有双币视角。
他的判断是,中美会慢慢形成两套不一样的体系,“中国短期内封装和散热会比较重要,因为制程还没起来、功耗较高,而美国一直追求的是更先进的芯片算力”。
从创业生态上来说,他打了一个比方,美国创投生态有点像比萨,两层,相对简单;中国的则更像千层饼,更加丰富。
他在资本端的观察是,美股“七姐妹”去年发起超过300起并购,国内并购数量则有限,这是资本体量的差距。
“中国创业者受限于国家整体的资本不足,跟美国创投机构拿到的资金体量相比,至少还差着货币单位,就是美元到人民币汇率”。
2、数据搬运与资源协同的重要性越高
祥峰投资执行董事姜煦重点关注数据中心的存储与互联。
她认为,随着AI算力从单卡、单机走向万卡级集群,瓶颈正在从单点计算能力逐步延伸到数据如何在计算、网络与存储之间高效流动。
算力规模越大,数据搬运和资源协同的重要性越高,存储与互联也越成为决定集群实际算力利用率的关键基础设施。
这一趋势在超节点和大规模集群中更加明显。
Scale Up和Scale Out不仅要求更高的多卡互联能力,也对网络架构、存储访问和异构算力协同提出更高要求。
即使单卡性能持续提升,如果互联带宽、通信效率或存储访问速度无法匹配,新增算力也难以充分释放。
因此,存储和互联不仅是算力基础设施的配套环节,更是将芯片理论性能转化为集群有效算力的关键。
从投资角度看,姜煦认为,AI Infra的机会在于随着集群规模扩大而产生的存储与互联增量需求。
尤其是高速互联、高性能存储以及软硬件协同等环节,其价值来自对集群效率的直接影响:一方面

远见网
