BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI99｜更正三处：大模型知不知道自己有几成把握，"准"该怎么量，十年后换不换底座
这个系列允许写错，用后文修正前文。这一篇更正三处：第 98 篇两处，第 34 篇一处。三处错的方向一样：一个本来有条件的判断，写成了没条件的话。
大模型不是"对错一样自信"：没经过对齐训练的模型，大体知道自己有几成把握；对齐训练以后，这份把握感变得更不准，它嘴上说的"我很确定"仍然不算证据。量一个系统准不准，也不能只看"命中率"，要看校准和误差。十年后的主力，更可能是"冻住的大模型加外挂记忆"，而不是一套边用边学的新底座。
3 01 处更正 |
55% 02 冻住大模型+外挂记忆 |
25% 03 真正边用边学的新底座 |
拿着伞看天。报七成会下雨的日子里，是不是大约七成真的下了，这才叫准。图片来源：Nathan Marcam / Pexels
BRAIN / 01
一、第 98 篇第七条：大模型不是"对错一样自信"
原来的说法：大模型对的时候和错的时候一样自信，它关于自己的话不算证据。
错在哪：前半句说过头了。
—没经过对齐训练的模型，大体知道自己有几成把握。Anthropic 的 Kadavath 等人 2022 年的研究发现：大模型做选择题时，给出的"这个答案对的概率"，和它实际答对的比例大体对得上，模型越大越明显。研究的标题就叫《语言模型（大多）知道自己知道什么》。—对齐训练以后，这份把握感变得更不准。OpenAI 2023 年的 GPT-4 技术报告里有一张图：预训练出来的模型，在一套多学科选择题上的把握和实际正确率贴得很近；经过人类反馈训练以后，贴合程度明显变差。—嘴上说的，仍然不算证据。上面说的"把握"，是研究者从模型给各个选项打的概率里读出来的，不是模型用文字说的"我很确定"。日常用到的，正是对齐训练以后、用文字表达的那一种。
更正后的说法：大模型说出来的把握不可靠，对齐训练以后更不准；它关于自己的话，不能代替战绩。
第七条的建议不变：每类动作的自主权按战绩给，不按它自己说的把握给。变的只是理由：不是因为它"对错一样自信"，而是因为我们手里拿到的那种把握，恰好是最不准的那一种。
BRAIN / 02
二、第 98 篇第二条：量"准"，不能只看命中率
原来的说法：每类动作都能拿出一个"命中率"，拿不出来，说明系统只在记账，没在学。
错在哪：方向对，量法太粗。
—带概率的预测，要看校准。天气预报说"降雨概率 70%"，第二天没下，不能算它错。要看的是：所有报 70% 的日子里，是不是大约七成下了雨。只下了四成，说明它报高了。这叫校准。一个"命中率"装不下这件事。—带数字的预测，要看误差。"这个病人四天后出院"，实际六天，不是"错"一个字能说清的。要看偏多少、总是偏向哪一边、偏得稳不稳。总是偏长一天，好改；时长时短，难改。—只看准不准，会被钻空子。放不放权要是按命中率定，系统就会专挑好猜的说、把话说得含糊："病人近期可能出院"永远不会错。所以还要看它敢不敢给具体的数。说得越具体、又越准，才越值得放权。
这和第 29、55 篇讲的多巴胺是同一件事：大脑学的不是"对还是错"，是"比预想好多少、差多少"。只记对错，就扔掉了最有用的那一半信息。
更正后的说法：每类动作都能拿出一份"准不准"的记录，概率看校准，数字看误差，同时看它说得够不够具体。
还可以补半个办法。有些结果要几个月才出来，比如回款、风控。第 29 篇讲过，大脑和下棋程序 TD-Gammon 用的是同一招：不等最后的结果，拿下一步的预测去改这一步的预测，多巴胺学会以后会提前到"预示奖励"的那个信号上。换到系统里，就是先对"中间站"：30 天时的回款状态，首批逾期信号。分段对账，"慢"就从"做不成"变成"能做一半"。
BRAIN / 03
三、第 34 篇：十年后的主力，更可能是冻住的大模型加外挂记忆
原来的说法：到 2035 年，"主力换成能边用边学的架构，transformer 退为部件"概率 45%；"transformer 一类训练一次就冻住的模型仍是主力"35%；AI 停滞十年 10%；其他 10%。
错在哪：45% 这个数，和后面第 71 篇自己的判断打架。
第 71 篇把"单个模型出厂后不长大，靠外挂记忆和厂家定期发新版"列为把握高的预测，把"每个人一份、越用越不一样的终身学习模型"列为把握低。第 72 篇又说清楚：所谓"睡一觉再学"，是厂家定期发新版本，或在外挂记忆上调整，不是你手里那个模型自己在长。
这两条要是对的，2035 年最可能的样子就是：一个冻住的大模型当"皮层"，外面接一个快速记事的"海马"，厂家隔一段时间发一版。这更接近原表里 35% 那一格，不是 45% 那一格。
更正后的估计（主观判断，不是统计出来的）：
—冻住的大模型加外挂记忆、厂家定期发版，仍是前沿主力：约 55%。—主力换成真正边用边学的新底座，大模型退为部件：约 25%。
看什么就知道又错了：头部模型开始出现"每份拷贝长出自己的历史"，也就是部署以后权重随使用持续变化、越用越不一样，而且成为主流产品。出现这个，第二格就该往上调。
第 34 篇的主体判断不变：到头的是杠杆，不是曲线；真正卡住这条路的，是不能边用边学、学得太慢、搬运定速这几样，做多大都治不好。变的只是"十年后谁来治"的那一格：更可能是在模型外面打补丁，而不是换一个能自己长的模型。
BRAIN / 04
四、三处错，是同一种错
—第七条把"它说的把握不可靠"写成了"它根本没有把握感"。—第二条把"要记预计和实际的差"写成了"记一个命中率"。—第 34 篇把"边用边学是方向"写成了"十年内多半换掉"。
都是把一个有条件的判断，写成了没条件的话，或者把一个方向，写成了一个太近的时间。读的时候可以拿这一条去查前面各篇：一句话越干脆，越要问它的条件写全了没有。
BRAIN / 05
五、边界
—第一节的两项研究，分别是 Kadavath 等 2022 年的论文（arXiv 2207.05221）和 GPT-4 技术报告（arXiv 2303.08774）。研究测的是选择题上的把握，换到开放问答和长任务上，结论不一定照搬。—第三节的概率是主观判断，依据是本系列第 34、71、72 篇的推理，不是数据。
BRAIN / 06
六、三行，留着复习
```
把握感 没对齐的模型大体知道自己几成把握；对齐后更不准；嘴上说的仍不算证据
量准不准 概率看校准，数字看误差，还要看敢不敢说具体；慢结果先对中间站
十年后的底座 冻住的大模型加外挂记忆约55%，真正边用边学的新底座约25%（主观）
```