远见网一、国际欧亚科学院院士与清华大学教授
7月18日，国际欧亚科学院院士、清华大学教授、东方算芯董事长魏少军在2026世界人工智能大会“智见AI合创未来”国泰海通人工智能投融资论坛上发表主旨演讲《人工智能芯片发展需要颠覆性技术》。
魏少军：首先，我们看到人类社会正在迈进一个智能化时代。
人类社会几千年大概经过了三场革命：农业革命、工业革命，还有20世纪中叶开始的信息革命，目前正在从事的是智能革命。
有些人把智能革命称为第四次工业革命，我不太赞成用“工业”这两个字来继续描述我们当前的智能化过程，我还是喜欢用“智能革命”这个说法。
当然，智能化革命不是一蹴而就的。
其实智能化革命早在20世纪中叶就起步了，从1946年电子计算机发明到1990年的通用推理装置，最近这几年启动了机器学习。
我们已经经历了前面两轮，正在经历第三轮的智能化革命。
刚才讲到农业革命、工业革命、信息革命和现在的智能革命，我们可以很容易把它跟一个人的身体几部分进行对比。
其实我们人就是躯干、生命维持系统、四肢、大脑和五官。
农业革命解决了我们的吃饭问题，满足了躯干的营养和生命维持系统；
工业革命主要延伸了我们的四肢，是我们做工的重要工具。比如人跑不了太快，我可以造一辆跑车；
人飞不上天，我可以造一架飞机；人不能在水里长待，所以工业革命更多在延伸我们的四肢。
这也是为什么我把工业革命局限在四肢或产业当中，而不是把智能化变成其他。
20世纪开始的信息革命更多地延伸了我们的五官感知能力。
我们看到一个人还剩一个大脑，这个大脑就是今天我们要做的智能化。智能革命是在延伸我们人类的智力。
因此，我们可以认为智能革命或人工智能是以人为本的科技革命的最高阶段。这并不意味着科技革命到此结束。
今天我们可能是通过促进认知能力提升，未来可能用其他东西实现认知能力提升，但从代替人脑或增强人脑这件事，人工智能应该是关键的。
人工智能今天大家都知道算力、数据和算法，这三者是基本要素。
1、算力是人工智能发展的技术基础
我个人看，算法是一种生产方法，数据是生产资源，而算力是生产技术。换句话说，算力是人工智能发展的技术基础。
没有算力，人工智能就是孤魂野鬼，无法落地。所以算力今天我们也没有更好的办法，只能用芯片来实现。
这就是我们面临的一个非常明确但又让人无奈的局面。
人工智能芯片发展经历了过去十几年，已经有了一定进步，但仍在探索。
其实在人工智能发展的第一阶段，我们并没有看到真正为人工智能设计的芯片，所以采用传统存在的芯片，目的主要是实现就好。
但这样的芯片一定满足不了要求，因此我们紧接着开展了第二部分工作，开发专用芯片，因为我们要实现应用。
这个过程持续了不长时间，我们就发现这个问题很严重，因为人工智能算法变化太快。
第三步，人们就去想，我们能不能找到一种芯片，能适应不同发展，很快适应算力和算法的不断变化，因此出现了所谓的面向灵活性或可重构的芯片。
还没发展到什么程度，我们又看到大模型出现。大模型对算力本身提出了非常高的要求。
这只是过去一段时间碰到的问题，未来还会碰到什么？不知道。但不管怎么样，我们最终走向智能化，这是毫无疑问的。
我想跟各位谈一点看法：我们今天的应用变化基本上以周为单位，每过一两个礼拜可能就有新应用出现；
大模型和算法基本上以月为单位，几个月就搞一次；但我们的芯片以年为单位，甚至更长；
系统一旦部署后，可能以五年十年为单位。这种不平衡对我们的芯片和系统提出了非常高的要求。
你不要指望一个芯片能打遍全球，未来十年都能用，但同时你又要保证它能适应现在各种各样的变化。
因此，我们这种变化非常快，以至于我们必须清醒意识到今天所面临的市场变化。
简单来说，今天的模型变得越来越聪明，而我们的应用要求成本降得越来越低。
所以更聪明的模型与更低成本的应用，成为我们今天芯片发展面临的两个重要需求。
具体来说，训练要更高效，推理要更便宜，这就是我们今天面临的最大问题。
从训练看，要做得更聪明，需要训练时间缩短、训练更充分。
仔细看训练时间，会发现预训练占了整个训练时间的75%，所以大算力变得非常必要，一定要算力足够大才能让训练结果好。
二、pedaily2012）整理
1、强化训练现在占了20%
同时，强化训练现在占了20%。
我把最近这些年算力的变化情况和强化学习时间的变化标出来，看到在过去五六年的时间里，强化训练时间增加了20倍，但算力需求增加了50倍。
要训练出更聪明的模型，就必须具备更强的算力，这是最基本的物理条件。
2、就像人一样与要想变得聪明
就像人一样，要想变得聪明，你得学习，学习时间长，自然知识多。但应用时情况不同，不能时间太长，等不起。
任何问大模型一句话，产生时间越短越好。
这带来了一个重要的要求：能很快产出客户所需的数据或结果，就需要高的访存带宽，需要内存大、容量高。
三、今天token成为重要度量单位
1、今天token成为重要度量单位
同时，我们希望推理结果费用越低越好，这形成矛盾。
今天token成为重要度量单位，每块钱人民币或一个美元多少个token，已成为经济指标，所以提出所谓Token Economics。
2、人工智能不能简单用传统芯片的想法去想
这种发展对芯片提出了非常具有挑战的要求：要芯片便宜、速度快、容量大，这些很多是互相矛盾的，这也让我们看到芯片开发的不易。
因此，人工智能不能简单用传统芯片的想法去想。人工智能需要一款新的芯片、新型的芯片。
我给出三个基本要求：一是可编程，能适应各类不同应用，即灵活性；二是高算力和高存储密度，以适应大模型发展需要；
四、需要很高的能量效率
1、需要很高的能量效率
三是当应用从云端推向终端，比如手机、边缘设备要用到人工智能时，需要很高的能量效率，否则手机用十分钟就没电了。
这三点归结出来，我们看到最大的问题是今天的计算架构完全不适应人工智能发展。当然，不只是我们看到这个问题。
早在2018年，两位图灵奖获得者——一位是斯坦福大学前校长，另一位是RISC-V的发明人David Patterson，他们在图灵奖获奖演讲中提出，目前我们处在一个新的计算机架构的黄金时代，现在要进行计算机架构的全面革新。
这句话提出来后，当时我们对这个问题看法没有今天这么深刻，但今天我们看到这是必须要做的事情。
做芯片本身没有特别复杂的事情，但难的是要做出一颗满足要求的高性能芯片。
我们在这方面起步不算太晚，但在发展中遇到很多困难。
我们知道架构和应用生态的捆绑已成为英伟达发展的重要能力，也是非常深的护城河。我们要跨越这个护城河。
在过去这些年，大模型的发展，特别是主要大模型的发展，包括中国大模型，其实都与英伟达进行了深度捆绑。
而我们捆绑也在逐渐加深。做模型的人比较担心，一旦没有英伟达的芯片，该怎么做？
我不是在批评他们，而是觉得他们没什么办法，因为我们国产大模型和国产芯片还没有发展到足够好。
但客观来看，当大模型发展与英伟达芯片全面捆绑时，意味着人工智能的发展和应用会受制。
如何破解这样的状况？我觉得中国人工智能面临的挑战是巨大的。
我把它列成三个：第一，我们想做高算力芯片所需的半导体工艺有没有？比较先进的工艺；
第二，我们需要大容量、高访存带宽的半导体存储器有没有？第三，保证大集群运行稳定的高速互联有没有？
这三件事可以说是横在中国人工智能芯片发展前面的三个非常大的困难。因此，我们归纳为算力墙、内存墙、通讯墙。
要解决这三个墙，就要回答三个问题：如何在没有那么多先进制程下发展？访存带宽如何匹配高增长的算力，避免算力浪费？
大家经常问，人家算力这么高，你的算力不高，你怎么看？
其实算力高低只是一个参数，算力高低与存储、互联之间的匹配做得好才是关键。很高的算力出不去，算力没有用，浪费；
你有很大的存储量，但数据与计算机无法交互，仍然不能发挥。所以这里面有很多东西不是单项式，而是多项平衡。
这就是我想跟大家讲的。我列出了制程、存储容量、高带宽等若干挑战。
用一句话说，人工智能芯片对我们半导体提出了极致挑战，把原来熟悉的所有参数推向了极致。
也就是说，优化一点不行，要优化全部。这种极致带来更深层的是整个方法学和方法论的变革。怎么办呢？
我们也没有更好办法，只能说中国需要走出一条颠覆性道路。至于什么，我后面跟大家介绍一下东方算芯的解决方案。
我们面临的问题与所有人一样，也要解决算力、访存带宽和互联三个问题。
我们用的方法是架构创新、三维堆叠技术以及系统组合。首先，如果架构不变，我大概率认为其他东西的变都是有限的。
我们采用了粗颗粒度的可重构计算架构，称为软件定义的架构。
通过分布式的集合通讯机制，把我们的计算单元和数据通路通过复用以后，提升到计算效率。
因此，我们整套技术路线带来的一个非常大的好处就是计算效率很高。
我们的计算效率可以达到85%以上，相比其他伪造对象，应该说高了30%甚至更多一些。
因为我们的计算、存储和互联三者之间是相匹配的，适应性最好，而不是某个单点越高越好。
我想这一点，凡是做系统工作的人都知道，就是提升硬件的利用。
第二个，我们要想办法把通讯之间的距离缩短，也就是通过三维的方式，把访存带宽压到最低。
我们看到，通过这种方式，我们可以把访存带宽提高五倍，同时把带宽容量提升五倍。
在相同的存储和计算能力下，我们的计算效率就会进一步得到保证。这也是我们讲的突破点。
2、我们讲要通过通讯器
最后一个，我们讲要通过通讯器，通讯桥是很难突破的，因为大家知道，做通讯本身，凡是你通讯就有损耗。
一个100%和另一个100%加起来，中间一连就变成97%或99%，总是不能做到百分之百。
我们看到，我们提出了一种叫3.5D的扩展结构。
通过3.5D扩展结构，既有三维的，也有2.5D的，这种方式就把更强的算力、更宽的带宽以及更大的互联规模三种有效结合起来。
在相同的封装尺寸下，我们可以实现更好的性能。
简言之，就是计算效率高、通用性能好、访存带宽大、能效优越。
这带来两个重要的变化：我们完全避开了先进工艺，也避开了先进潜台词。我们实现了在国产供应链上的全面稳定。
应该讲，这一件事对东方汉芯来说，它是最大的。
因为你没有一个稳定的、可靠的、安全的供应链，再好的技术对中国也很难实现。
这是我要说的，我们最重要的价值是在全国国产供应链这件事情，而不是在单个指标上。
我们通过努力以后，用14纳米的工艺实现了520万亿次的定点运算，提供了6.4TB的带宽，这比国际上最好的还高了50%。
而我们的Scale-up带宽也达到900G。
这样的一种技术，应该说我们用比较不那么先进的技术，打造了一个可以跟国际先进制程产品相比肩的产品性能，因此也带来了非常前景的发展。
最后，我想讲一下，我讲了这么多，其实非常重要的一件事情，并不是知道了这些事情就一定能把这个芯片做好。
这里面其实对于方法学、对于设计方法的改变是深层次的。
我在左边列出了芯片设计的一般流程，右边我设计了基于人工智能发展的新设计。
应该讲，东方算芯在发展当中，我们是基于整套新的设计方法才发展成了今天的3D。
如果没有这样新的设计方法，我们要发展出这些东西难度会非常大。
因此，我也想跟我的同行讲一句，恐怕我们在后续的发展当中不能单打一，要系统地去看待方法，发展出成套的技术方案，才能够真正让中国的算力芯片走向新的更高高度。
