BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI⑭|知识不是存进去的,是长成的
前两篇反复用到一句话:大模型的信息压在权重里,脑的信息压在结构里。⑫ 讲了它的代价(搬运),⑬ 讲了它的便利(复制)。有读者该问了:这句话本身到底是什么意思——信息怎么个"压"法?这一篇把它拆开讲透。
权重和接线都不是仓库,是被改变了的系统本身。知识不是像文件那样被存进去的,是像疤痕、像肌肉、像揉进面团的盐那样长进去的——所以两边都指不出一条知识住在哪,也都没有"删除一条"的按钮。
0 01 个句子:模型文件里只有数字 |
3 02 样仓库便利,两边都没有:查、删、目录 |
1 03 个真差别:脑弥散且分区,模型纯弥散 |
数据库存条目,可查可删;权重和接线存的是"系统被改变的样子"——弥散、不可枚举、没有编辑按钮。
BRAIN / 01
一、先做个实验:打开模型文件找一条知识
一个大模型的全部家当是一个几百 G 的文件。打开它,从头翻到尾,你会看到什么?
只有数字。 一列一列的小数:0.037、−0.512、0.004……几千亿个,没有一个句子,没有一个词条。可是问它"巴黎是哪国首都",它答得出。
那"巴黎属于法国"这条知识存在文件的哪一行?没有哪一行。 它弥散在无数个数字的相互关系里——这些数字凑在一起,让"法国"这个词在那个语境下概率最高。就像盐化进了面团:你指不出盐在哪个位置,但每一口都是咸的。
训练(本系列⑫说的"拧几万亿次旋钮")做的事,不是往仓库里码放条目,而是把整个面团反复揉到"出这个味"。
BRAIN / 02
二、脑的那半句:你会骑车,骑车存在哪?
换到脑这边,问一个同样的问题:你会骑自行车,这项本事存在脑子的哪个位置?
同样没有一个"骑车文件"。学车的那几个星期,改变的是相关回路里突触的连接和强弱——学习的物理形式就是改接线。本系列③算过那笔账:果蝇脑 278 亿种可能的连法里只连了 0.196%,连哪条、不连哪条,本身就是全部内容。
这就是转向:两边都不是仓库。 "存进去"这个词从根上就是错的——信息不是放在系统里的东西,而是系统被改变之后的样子。模型的知识=数字被拧成的形状,你的知识=接线被长成的形状。仓库和货是分开的,而这里,货就是仓库本身。
BRAIN / 03
三、不是仓库,就没有仓库的三样便利
把这一条想透,AI 的三个"怪毛病"就不怪了——它们全是"不是仓库"的直接推论。
第一,没法查,只能重建。 数据库检索是把存好的条目原样取出;模型"回忆"是当场把答案重新捏出来。捏对了叫知识,捏错了叫幻觉——幻觉不是故障,是这种存法的固有属性:既然没有原件,就谈不上"取出原件",每次都是重建,重建就有走样的概率。
第二,没法删,只能重教。 想让模型忘掉一条隐私、改掉一个错误认识?没有那个按钮——那条信息不在任何一个可以删除的位置上,它化在整个面团里。这在行业里是一个公开的难题(叫"机器遗忘"),至今没有工程上干净的解法。脑同样:想戒掉一个坏习惯的人都知道,没有删除键,只有用新的练习慢慢盖过去。
第三,没有目录,只能考。 问一个模型"你都知道什么",它给不出清单——不是保密,是这种存法本身不可枚举。人也一样:你说不全自己会什么,直到事到临头。这就是本系列反复回到的那件事的根源:验收一个模型(或一个人)只有一条路——出题考,没有点库存这个选项。
BRAIN / 04
四、两边的一个真差别:分区
说了这么多"一样",补一个不一样,免得类比说过头。
脑虽然也弥散,但有分区:管视觉的、管语言的、管记忆写入的(那个结构叫海马体,就以海马这个动物命名),各有地盘——所以中风损伤特定位置,丢的是特定功能。而大模型的零件全长一样(本系列④),没有天然分区,哪里存了什么更加无迹可寻。可解释性研究正在权重里"找位置",有局部成果,离工程可用还远。脑是弥散加分区,模型是纯弥散——这也是为什么读脑的损伤病例能学到东西,而"解剖"一个模型至今收获有限。
BRAIN / 05
五、三行,留着复习
```
不是仓库 知识=系统被改变的样子,货就是仓库本身;"存进去"从根上是错的
所以三个没法 没法查(只能重建,幻觉是固有属性)、没法删(只能重教)、没有目录(只能考)
一个真差别 脑弥散且分区(损伤按功能丢),模型纯弥散(哪里存了什么更无迹可寻)
```