国产算力利用率突破65%,AIGCode L3级大模型的全栈突围

一、一笔600亿美元的收购给AI应用行业带来了重

1、一笔600亿美元的收购给AI应用行业

6月中旬,一笔600亿美元的收购给AI应用行业带来了重创和不安,之后,VC不再投AI应用的悲观论调开始发酵。

没错,这笔收购就是马斯克买下AI应用顶流Cursor,往小了说,这是一个让四个00后财富自由的故事,往大了说,这再次证明了AI应用的终局是大厂和基模的游戏。

在这,我们不评价,也不预测,只想直面一个本质的问题,对于Cursor来讲,这笔交易为何会发生?

除了交易金额外,市面上比较一致的看法是没有基座模型能力的AI Coding优势不可持续,而自研成本又过高,找棵大树依靠是一个高性价比的选择。

另一个事实是AI Coding领域99%的厂商还死卷在L2代码补全(Copilot)的红海里打价格战,做不出真正端到端的代际突破。

那么AI Coding这个被看做最火热的赛道终局将走向何处?一家成立两年的公司AIGCode正在给出一个独特的全栈解法。

AIGCode的创始团队是一群来自全球顶尖高校和大厂一线的技术极客。

在创业之前,一直在技术一线的CTO陈秋武发现了一个根本性的问题:很多智能不足的根源不在微调,而在基座大模型本身。

2、我们发现很多问题其实来自于基座大模型

“我们发现很多问题其实来自于基座大模型,而不是微调的能力。”

紧接着,陈秋武就盘点了团队的技术储备:算法能力强、基建功底深厚、架构设计经验丰富。

团队在过往的技术实战屡次突破工程与算法的极限,早在2012年,便通过实时个性化推荐技术,将腾讯微博广告的点击率提升了三倍,随后在微信位置服务项目中,仅凭16台服务器便成功扛住了10亿级别的线上流量。

陈秋武在微软任职期间,不仅在实时突发事件监测、实时聚类与实时排序三大算法上取得关键突破,将其成功应用于美国大选的社媒实时追踪,还针对法学院入学考试(LSAT)问答场景,完成了复杂的子句因果逻辑建模,并将系统的端到端延迟大幅降低了99.99%。

这三个优势叠加,指向了一个结论,这个团队适合做基础大模型研发。

但做什么样的大模型?

彼时,国内“六小虎”正风头正劲,投资人们追捧的是OpenAI路线的中国复刻者,可即便如此,陈秋武和团队还是决定不凑热闹,反而选择了一条逆主流的路——不做通用,聚焦Coding。

选择coding的逻辑只有四个字,闭环最短。

陈秋武此前在垂直大模型的落地过程中体会到,如果跟行业专家团队合作,闭环太长,而Coding领域团队本身就是技术极客,“我自己做出来的东西,我自己能识别出这个智能程度够不够。

二、更是整个技术闭环的关键一环

1、更是整个技术闭环的关键一环

于是,AIGCode的产品AutoCoder.cc是国内极少数能端到端生成前端、后端和数据库,并提供测试和运维部署能力的AI编程产品。

陈秋武认为,这不仅仅是商业产品,更是整个技术闭环的关键一环。

他的逻辑链条是:当前所有大模型的训练数据只能提供L2级别的样本,因为L3级别的应用还没有出现。

没有L3的数据,模型就无法从L2跃升到L3。

因此,AutoCoder.cc的真正价值是为基座模型生产L3训练数据。

2、这是我们的核心闭环

他的账本是:“70%-80%投入流进算力的口袋,这种模式是不正确的畸形,至少搜广推完全不是这样。

大部分收益壁垒来自算法而非算力。

另一笔是L2大模型需求从提出到完成任务,需要多轮矫正,百万token弹指湮灭,而L3大模型则完成任务只需千-万级token。

他用复杂度量化了当前的行业现状,比如电商网站的复杂度约为4,操作系统约为6,《黑神话:悟空》约为10。

再到产品侧,国外竞品模型生成的复杂度大约在2左右,只能做多个单页面。

对于生成一个多角色、长逻辑链路的任务,都是做不到的。

对此,陈秋武用了一个意味深长的比喻。“iPhone没出来之前,大家认为诺基亚已经非常好了。

三、他们试图证明一件国内大模型行业几乎无人相信

1、他认为当前的大模型行业就处在“诺基亚

所以,AIGCode团队正在做的事情,归根结底就是一句话:在国产算力上,通过底层研究创新提升预训练效率,通过端到端产品产生L3数据,用L3数据训练下一代模型,形成一个完整的正向循环。

他们内部也称之为“3No范式”(No Nvidia, No L2, No Blind Scaling),即不依赖英伟达单一路线、跨越L2辅助、拒绝盲目堆量,直接用无需人监督任务完成度高的L3交互数据去训练下一代端到端L3级大模型,这也将导向全新的agent应用范式。

但国产替代从来不是一条容易的路,我们前几天曾在寒武纪市值破万亿时写到这是最朴素的现实主义,AIGCode的故事同样如此,因为没得选,所以只能走好脚下的路。

2024年3月,成立不久的AIGCode在算力紧张的困境下,登上了某国产算力的训练集群,开始了在国产芯片上的大模型预训练。

这是一条几乎没有创业公司愿意走的路——自研基座模型,同时深度优化国产算力生态,还要做端到端的AI编程产品。

但两年后,这支小而精的团队在国产算力集群上实现了MoE架构65%的算力利用率(MFU),这个数字超过了字节Seed在2025年10月公布的MoE效率纪录,这也意味着,一张国产卡,被他们当成了两张用。

团队把预训练中闲置的CPU资源,吞吐量优化到300倍,矩阵乘计算性优化到100倍,承接显卡冷门长尾专家的计算,把HBM利用率与全局/微批次提高双倍。

整体训练提效35%,而在增强后训练,通过CPU TB级内存双副本指针切换,免去采样→训练→推理多线频繁上下文切换性能理论上限提效数十倍。

2、只做模型层也不够

更重要的是,他们试图证明一件国内大模型行业几乎无人相信的事,只做应用层不够,只做模型层也不够,必须从底层基础研究、预训练效率到产品端完成真实长程任务,垂直打通整条链路,才能触达下一代大模型的门槛。

真正让团队与国产算力深度绑定的,是2025年底国产头部算力的负责团队的一次深度交流,双方团队达成了合作方向:把该算力体系下MoE的MFU提升上去。

结果远超预期。2026年2月底,36.3%;3月底,50%;4月14日,65%。

这背靠的是极致的底层技术突围。在大模型时代,算法、工程、产品与商业化高度交织,常规的割裂分工模式已然失效。

3、但这只是冰山一角

但只要自身技术底子够硬,AIGCode的团队通过极致的软件优化,去抹平这道硬件上的鸿沟。

梁文锋说过,你一定要在技术领域做出一些突破才有可能。在陈秋武看来,大模型还属于少年期,很多技术机制还不完善。

4、而RoPE本质上是高频外推与低频内插

在这种情况下,堆人力、堆资金、堆钱都没有太大用处。

在这种观念和信仰的驱使下,AIGCode团队花了18个月研发出了TPE(树形位置编码),彻底取代了业界通用的RoPE方案。

技术原理上,RoPE是线性算法(加法),TPE是乘法结构,四层各1K的乘法可达TB级别的无损位置表达。

“1Kx1Kx1Kx1K,四次相乘就是1T级别。

更让他惊奇的一个发现是:只要跟RoPE反着来,你会发现有比较大的收益。我们取消了RoPE之后,竟然带来了额外的收益。

当然,TPE的突破只是一个开始,基于TPE,团队进一步做出了TPA—业界首个无损线性注意力机制。

陈秋武解释,目前流行的KDA、DSA等方案本质上是有损的,具体做法是通过丢弃或降权他们认为不重要的远距离token来实现线性复杂度,但其实(这些token)并不是不重要,只是RoPE的位置编码导致越远的toke

来源: 投中网-商业深度
产业标签 AI中国/大模型与AI Agent
赞(2) 支持本站
分享到

支持本站持续更新

如果这篇内容对你有帮助,欢迎扫码支持。

支付宝扫一扫

微信扫一扫

登录

找回密码

注册