BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI㊻｜学习的代价：从被烫一下，到把错的传给下一代
小明哥提了一个框架：
代价分四层：疼和甜管一个人的这一辈子，死亡管一个物种的基因，而最贵的错，是把错的知识传给下一代——因为那时，付代价的人和犯错的人已经不是同一个。AI 今天最该防的，正是这一层。
当场 01 疼和甜：付代价的就是犯错的人 |
代际 02 死亡：代价交给物种写进本能 |
几百年 03 传错的知识：放血疗法用了两千多年 |
被烫，是身体告诉大脑"学错了"的代价；好吃、吃多了身体存起来、能熬过大饥荒，是身体告诉大脑"学对了"的奖励；死亡，是大脑学错、做错，身体能支付的最大代价；从物种的角度，可能还有更大的代价——把错误的知识传给下一代。
这个框架值得展开，因为它把本系列讲过的很多东西串成了一条线：学习靠代价来校正。代价越大，反馈来得越慢，管的范围也越大。
学习的四层代价：疼和甜（秒到天，管个体）、死亡（代际，管基因）、传错知识（几代到几百年，管文化）。越往下，代价越大，反馈越慢，越难和犯错的那个人挂上钩。
BRAIN / 01
一、第一层：疼和甜，是这一辈子的老师
手碰到烫的东西，几乎不用想就缩回来，下一次还没碰就会小心。这是最快、最直接的一种学习：代价当场就付，付代价的就是犯错的那个人。
本系列第 ㉙ 篇讲过，多巴胺报的不是"好"或"坏"，而是"比预想的好还是差"。好吃的东西带来奖励，大脑记下"这样做是对的"；疼带来惩罚，大脑记下"这样做是错的"。
但这里藏着一个要紧的细节：奖励信号本身，是祖先的环境定下的。爱吃甜的、爱吃油的，在食物稀缺、随时可能饥荒的年代，是学对了——多吃多存，熬得过冬天。可到了今天食物过剩的环境，同一个奖励信号还在照常工作，结果就是肥胖和糖尿病。
也就是说，身体给的分数也可能过时。打分的人没有错，是打分的标准停在了过去。
AI 这边也有"疼和甜"：训练时的打分。答对了加分，答错了扣分，模型据此调整。两点不同：
—模型做错了，自己不疼。分数是别人给的，后果也由别人承担（第 ㊵ 篇）；—打分标准同样会过时。按某个时期人的偏好打的分，未必适合另一个时期。
BRAIN / 02
二、第二层：死亡，大脑学不到，学到的是物种
死亡是小明哥说的"身体能支付的最大代价"。但它有一个特殊之处：死了的那个人，没有机会从这次错误里学了。
那这个代价去了哪里？它交给了物种。谁活下来、谁留下后代，决定了哪些基因传下去。一代代筛下来，一些"教训"被写进了基因，变成了不用学就会的本能。比如人天生对苦味敏感、会皱眉吐掉——自然界里很多有毒的东西是苦的，对苦味不敏感的祖先，更容易被毒死。
这条路很可靠，也极慢：要很多代、很多人付出生命，才能写进一条本能。
人类还多了一条捷径：看别人付代价。看到别人被蛇咬、被烫伤、吃了某种果子病倒，自己不用亲身经历就学会了。这让一个人的代价，可以变成一群人的教训，也就有了第三层。
AI 也有对应：一个模型表现不好，会被下线，被下一代取代。这相当于公司和用户在替它做"自然选择"。不同的是，这个选择不是由模型自己的"死亡"决定的，而是由人决定的。
BRAIN / 03
三、第三层：把错的传给下一代，是最贵的错
小明哥说的最后一层最深：从物种的角度，比死亡更大的代价，是把错误的知识传给下一代。
为什么它比死亡还贵？因为这时付代价的人，和犯错的人已经不是同一个了。
—基因传错了，自然选择会慢慢纠正。带着有害基因的人活得差、后代少，错误会被一点点筛掉。这个纠错器虽然慢，但一直在工作。—知识和文化传错了，纠错器就弱得多。放血疗法在西方医学里用了两千多年。它为什么能流传这么久？因为后果来得慢、来得分散：病人死了，可以归因于病太重；病人好了，可以归功于放血。代价和错误挂不上钩，错误就一代代传下去。
这正好呼应了第一层的那个细节：传下来的东西，无论是基因里的奖励标准，还是书上的知识，都是在过去的环境里"学对了"的。环境变了，它们就可能变成错的；而越是代代相传的东西，越不容易被怀疑。
BRAIN / 04
四、AI 最该防的，正是第三层
第 ㊸、㊺ 篇讲过 RSI：AI 参与造下一代 AI。这让第三层的问题在 AI 身上变得非常具体。
2024 年，Shumailov 等人在 *Nature* 上发表了一项研究：让模型用上一代模型生成的数据训练，再用这一代生成的数据训练下一代，如此反复。几代之后，模型出现了"崩溃"——原本数据里少见但真实存在的东西先被丢掉，输出越来越单一，越来越偏离真实世界。
这就是 AI 版本的"把错的传给下一代"：
—没有一个"身体"在中间喊疼，告诉它"这条路错了"。
大脑和物种有两道裁判：身体的疼痛，和死亡带来的自然选择。AI 的下一代，目前只有人在把关。所以人要守住的那道关很清楚：没有经过真实世界验证的东西，不进下一代。
BRAIN / 05
五、对我们自己的启示
这个框架同样适用于我们怎么学习、怎么做判断：
—能当场付代价的错，是最便宜的错。小步试、快反馈，错了马上知道。—代价来得越晚、越分散的错，越要主动去找反馈。投资、医疗、教育都是这样：后果几年后才出现，而且很难算到某个决定头上。—最该警惕的是"从来如此"的知识。它可能是在另一个环境里学对的，传到今天已经过时，只是没有人为它付过代价。
BRAIN / 06
六、边界
—把奖励、死亡、文化传承统一看成"代价的不同层级"，是本文的类比框架，不是某项研究的结论。—对苦味敏感与避开毒物有关，是演化生物学的通行解释；具体到某一种味觉偏好，演化来源往往有多种解释。—模型崩溃研究在实验条件下反复只用生成数据训练；现实中的训练会混入真实数据，程度因做法而异。
BRAIN / 07
七、三行，留着复习
```
疼和甜 当场付代价，管这一辈子；但奖励标准是祖先环境定的，会过时
死亡 死者学不到，代价交给物种写进本能；人类能看别人付代价
传错给下一代 付代价的和犯错的不是同一个，错误能传几百年；AI用自己生成的数据一代代训练会崩溃
```