BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI㊿｜Transformer 赢了，是因为它最聪明，还是因为它最配显卡
小明哥转来一篇文章，起点是科技媒体 The Information 的一个问题：如果 Transformer 之所以能赢，只是因为它刚好最适合今天的显卡呢？
一种算法能赢，常常不是因为它在数学上最好，而是因为它刚好最配手边的硬件。Transformer 中了显卡的"彩票"，类脑芯片没中；大脑的算法，也是配着它那副又慢又湿的"硬件"长出来的。所谓最优，永远是相对于某种硬件的最优。
8块×3.5天 01 2017年Transformer大模型的训练量 |
20瓦 02 大脑功耗，存算一体 |
3.35亿美元 03 Ricursive融资，让AI设计芯片 |
回答的人是 Anna Goldie，前谷歌芯片设计 AI（AlphaChip）的核心研究者，现在和 Azalia Mirhoseini 一起创办了 Ricursive Intelligence。这家公司成立没多久就融了 3.35 亿美元，估值约 40 亿美元。她的回答是：我们可能被困在一个"局部最优"里，真正的"全局最优"可能离今天的芯片和算法都很远。
这个问题和本系列关系很深：第 ㉛ 篇讲大脑只要 20 瓦，第 ㉜ 篇讲类脑芯片学会了放电却学不会往回传。这一篇把它们串起来。
一块处理器芯片的背面。算法跑得好不好，很大程度上取决于它和芯片配不配。图片来源：Jimmy Chan / Pexels
硬件彩票：Transformer 配显卡，中了；类脑芯片配不上今天最好用的学习算法，没中；大脑的算法配着它自己的硬件长出来，20 瓦就够。
BRAIN / 01
一、"硬件彩票"是什么
2020 年，谷歌研究员 Sara Hooker 写了一篇文章，题目就叫《硬件彩票》。她的意思是：一种研究思路能不能胜出，往往取决于它是否恰好适合当时现成的硬件和软件，而不一定因为它本身更好。
最典型的例子就是深度学习自己。神经网络的数学几十年前就有了，却坐了很久的冷板凳；直到 2012 年，人们发现游戏显卡可以拿来训练神经网络（AlexNet），深度学习才一夜复活。不是数学变了，是硬件到了。
BRAIN / 02
二、Transformer 是怎么中彩票的
2017 年之前，处理语言的主流方法是循环神经网络：一个字一个字往后读，读完上一个才能读下一个。这很符合人的直觉，但对显卡是折磨——显卡有成千上万个小核心，最擅长的是同时做大量简单的乘法加法，而循环网络逼着它排队。
2017 年，谷歌的《Attention Is All You Need》提出 Transformer：不再按顺序读，而是让一句话里的每个字同时和其他所有字计算关系。这正好撞进了显卡最擅长的事。论文里的大模型，用 8 块显卡训练了 3.5 天，就做出了当时最好的翻译效果。
它的胜出，一半是设计好，一半是配得好。
BRAIN / 03
三、中了彩票以后，就很难换了
既然可能只是"局部最优"，为什么不换？文章引用了英伟达研究员 Jim Fan 的看法：Transformer 会统治很长时间，因为整个行业已经被锁在上面了。
—训练太贵：训一个前沿模型要几万块显卡、上亿美元，通常只能认真训一次。—生态锁定：开源模型、训练框架、测试基准、调度工具，全是为 Transformer 做的。—人才锁定：今天的算法工程师，脑子里装的都是 Transformer 的样子。
进化也是这样：一旦某个结构用开了，后面的一切都在它上面叠，就再也回不去重新设计（第 ㊼ 篇讲的五次突破，就是一层层叠上去的）。
BRAIN / 04
四、显卡"配"Transformer，其实也没那么配
文章最有意思的一段，是指出 Transformer 和今天的芯片之间其实有一个很别扭的地方：
—读题的时候很顺：你给模型一大段话，它可以同时处理所有字，显卡满负荷运转。—答题的时候很卡：模型是一个字一个字往外吐的。每吐一个字，都要把几十上百 GB 的模型参数从显存里搬一遍到计算单元，只为了做一小点计算。结果是计算单元大部分时间在等数据，而不是在算。
这就是所谓的"内存墙"：算得快，搬得慢。今天业界很多有名的优化（比如 FlashAttention、PagedAttention），本质上都在想办法少搬一点数据。
这正是大脑和今天的电脑最不一样的地方。第 ㉛ 篇讲过，大脑只要约 20 瓦：在大脑里，记忆就存在突触上，计算也在突触上发生，"存"和"算"是同一个地方，不需要来回搬；而且大部分神经元大部分时间是安静的，只在有事时才放电。今天的电脑，存和算分在两处，每一步都要搬。
BRAIN / 05
五、类脑芯片：没中彩票的那一方
既然大脑这么省电，为什么不照着大脑做芯片？有人做了，这就是第 ㉜ 篇讲的类脑芯片：模仿神经元放电，存算一体，非常省电。
可十年过去，类脑芯片没有跑出大模型这样的能力。第 ㉜ 篇的结论是：今天最好用的学习方法（反向传播），需要一条连续、可以求导的信号；而脉冲放电给的是一串跳变的 0 和 1。硬件学会了大脑的样子，最好用的学习算法却配不上它。
所以硬件彩票是双向的：Transformer 配上了显卡，中了；类脑芯片配不上今天的学习算法，没中。不是哪一方更"聪明"，是哪一方刚好配得上。
BRAIN / 06
六、反过来看大脑：它也是配着自己的硬件长出来的
这个视角还能再往前推一步。
大脑的"硬件"是神经元：信号传得慢（每秒几十到一百米左右），容易出错，耗能要省。在这样的硬件上，进化找到的算法就是：大量并行、稀疏放电、局部学习、存算一体。大脑的算法，也是配着它那副又慢又湿的硬件长出来的。
所以问"Transformer 是不是全局最优"，可能问错了。更准确的说法是：没有脱离硬件的最优。大脑在神经元上找到了一种最优，Transformer 在显卡上找到了另一种。将来换一种硬件，最优的算法也可能跟着换。
BRAIN / 07
七、让 AI 来设计芯片：另一条路
Ricursive 想做的，是让 AI 来设计芯片，再让新芯片跑出新的 AI，新 AI 再设计下一代芯片——这又是第 ㊸、㊺ 篇讲的递归自我改进，只是这次递归到了硬件这一层。
这条路的基础是 Goldie 和 Mirhoseini 在谷歌做的 AlphaChip：用强化学习做芯片布局，2021 年发表在 *Nature* 上。要知道的是，这项工作发表后有过争议，有研究者质疑它的效果和可重复性；*Nature* 在 2024 年复审后发布了补充说明、维持原文，批评者并不全都接受。用 AI 设计芯片可能是对的方向，但它能不能真的跳出"局部最优"，还没有被证明。
BRAIN / 08
八、边界
—"Transformer 只是巧合"是一个提问，不是结论。它的设计本身也确实有优点，比如能同时看到一段话里所有字之间的关系。—文中"芯片有效利用率常常只有 20% 到 30%"等数字来自原文转述，具体数值因硬件、模型和场景差别很大。
BRAIN / 09
九、自测：合上文章回答
—"硬件彩票"是什么意思？深度学习自己是怎么中彩票的？—Transformer 为什么比循环神经网络更配显卡？
BRAIN / 10
十、三行，留着复习
```
硬件彩票 算法胜出常因为配得上手边的硬件；深度学习等显卡等了几十年，Transformer配上了并行
内存墙 答题时每吐一个字都要搬一遍参数，算得快搬得慢；大脑存算一体、稀疏放电，20瓦就够
没有脱离硬件的最优 Transformer配显卡，类脑芯片配不上反向传播，大脑算法配着神经元长出来
```