BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI⑫|机器学会了配菜,还没学会把肉长在灶台上
本系列第 1 篇说过:模拟大脑,规模一大,主要成本不在"算",在"搬"。当时这是从论文里推出来的判断。最近在一台 512G 内存的家用工作站上实测本地大模型,同一件事以一组具体数字重新出现——而且多出了一级台阶。
电脑和脑的效率差距不在"算",在"搬"。稠密模型整头牛做一小碟菜,专家混合学会了配菜,脑把肉长在灶台上——同一道算式下的三级台阶,机器爬上了第二级,第三级要换的不是工艺,是架构。
819 01 G/s ÷ 22G,算式里没有算力 |
1/20 02 专家混合每字只搬约二十分之一 |
0 03 脑的搬运工序:不存在 |
三级台阶量的都是"搬多少":稠密模型全搬,专家混合只搬要用的,脑不搬。第二到第三级之间隔的是架构,不是工艺。
BRAIN / 01
一、先看那道除法
大模型生成文字是逐字进行的,而每写一个字,都要把这一步用到的参数从内存完整搬运一遍。于是写字速度有一个干净的算式:每秒字数上限 = 内存带宽 ÷ 每字搬运量。
实测的机器内存带宽约 819G/s;模型每字动用 400 亿参数、按 4bit 存储,每字约搬 22G。相除,理论上限每秒约 37 字,实际测得 19 字——差额耗在注意力等开销上,但数量级被这道除法锁死。
注意这道算式里没有"算力"。芯片算得再快,参数搬不过来,只能等。写字这件事,是搬运定速的。
BRAIN / 02
二、用一个后厨看三级台阶
把模型换成后厨:参数是一整头牛的食材,内存是冰箱,带宽是冰箱到灶台的通道,写一个字就是出一道小菜——而这个后厨有个怪规矩:每出一道菜,都要把用到的食材从冰箱搬到灶台过一遍。
第一级:整头牛做一小碟菜。 早期的稠密模型,每写一个字,全部参数都要过一遍通道——不管这道菜用不用得上牛尾巴。模型越大,每道菜搬得越多,出菜越慢。
第二级:门口站了个配菜员。 现在的主流大模型(专家混合结构)总参数可以有七千多亿,但每个字只唤醒其中约二十分之一——配菜员先判断这道菜要哪几个部位,只搬那一小份。同样的通道,出菜快了一个档次。这和本系列第 2 篇果蝇给出的答案是同一个方向:思考从来不是全脑放电,只调用相关回路。
三级台阶量的都不是"算得多快",是"搬得多少"。 而第三级,机器还没爬上去。
BRAIN / 03
三、第三级:脑没有通道
本系列第 1 篇引过那个判断:生物突触既是存储又是计算,数据不用搬。放进后厨的语言里,这句话变得非常直观——
脑的肉,长在灶台上。 记忆存在突触里,而运算就发生在突触上;"从冰箱搬到灶台"这道工序,在脑里根本不存在。电脑无论把通道修到多宽,都是在为一道脑压根没有的工序付钱。
这也是二十瓦与兆瓦级差距的另一种读法:不是脑的通道比超算宽,是脑没有通道。第 1 篇说这个差距"不是工程还没跟上,是底层结构不同"——从后厨看,第一、二级之间隔的是工艺,配菜员可以慢慢训练得更聪明;第二、三级之间隔的是架构,要把冰箱和灶台砌成同一个东西,整个后厨得重建。
BRAIN / 04
四、这个台阶表能用来看什么
看硬件新闻时,这张三级台阶表是把现成的尺子。凡是宣称"让 AI 更快"的技术,先问它在动哪一级:
—加宽通道——更高带宽的内存、更快的互联,在第一、二级内部改良,收益按比例—更聪明的配菜——更稀疏的激活、更准的路由,把第二级做深,这是当前主流的省钱方向—把存储和计算放到同一处——近存计算、存内计算,这是朝第三级去的方向,难度也是架构级的:它不是把现有零件做得更好,而是要求换掉"存和算分开放"这个几十年的地基
第三条路能不能走通、多久走通,我没有答案——类脑方向的研究已经进行了很多年,尚未成为产业主流,这本身是一条值得记住的基准率。但台阶表至少给出一个清晰的判据:一项技术离"不搬"越近,它承诺的效率跳变越大,兑现的架构代价也越大——两头都大,才是真的;只说前一半的,是宣传。
BRAIN / 05
五、类比的边界
照例把话说回来。后厨类比在"效率"这一个维度上成立,不能推广成"脑全面优于电脑":电脑的通道换来了脑没有的东西——参数可以复制、可以下载、可以精确回放,而脑里的"灶台"谁也搬不走、也复制不了。第 3 篇说过,大模型的信息压在权重里、脑的信息压在结构里——搬运的代价和可复制的便利,是同一枚硬币的两面。哪一面更值钱,取决于你要它干什么活。
BRAIN / 06
六、三行,留着复习
```
写字是搬运定速 速度上限 = 带宽 ÷ 每字搬运量,算式里没有算力
机器在第二级 配菜员(稀疏激活)是当前主流的省法,方向与脑一致
脑在第三级 肉长在灶台上,不搬;第二到第三级隔的是架构,不是工艺
```