COGNITION / J-SYSTEM15 SEP 2026
认知 78|总分会把你要找的那个差别平均掉
一个总分、一个平均数,看起来是把复杂的东西压成一个好比较的数。可它压掉的,常常正是你做决定时最需要的那一个差别。
当一组东西内部差别很大,平均数回答的就不是你的问题。先拆开看里面,再决定信不信那个总数。
COGNITION / 01
一、第一个例子:大模型排行榜
现在每个大模型发布,都会引一个「综合智能指数」排第几。有一篇把这套评测拆得很细的文章,举了一个例子:
在一项考终端操作的编程测试上,两个模型一个得 42%,一个得 13%,差了三倍多;可放进综合指数里,两者只差 1 分。
对一个要挑编程助手的人,这三倍的差距是决定性的;对一个主要做长时间办公任务的人,两者在办公那一项上又几乎一样。同一个「只差 1 分」,对这两个人都没用——一个被骗过了大差别,一个本来就不需要这个总分。
作者自己的建议很朴素:别看总榜第一行,把你关心的那几项单独拿出来看,再看清版本号和日期。
COGNITION / 02
二、第二个例子:增肌药为什么总是失望
这个例子来自一篇医学期刊上的观点文章,讲老年人的肌少症。
几十年来,大家默认「肌肉越多,力气越大」,于是投了大量钱做增肌的药。结果很多药确实把肌肉量加上去了,力气和走路能力却只涨一点,或者时有时无。
文章给的一个解释是:老了没力气,原因不只在肌肉,还在大脑、脊髓、神经和肌肉的连接处。有的人肌肉还在,问题出在神经驱动;有的人神经还行,是肌肉本身不行。可试验只按「肌肉少」或「握力差」把人招进来,等于把不同毛病的人混在一组。药对其中一部分人可能有用,一平均,就成了「效果不稳定」。
COGNITION / 03
三、两件事是同一个结构
一个是软件排行榜,一个是老年医学,表面毫不相干,底下是同一件事:
—组里的东西不一样:十项考试考的是不同能力;一群老人没力气的原因各不相同。—你的问题只关心其中一部分:你要的是编程那一项;药只作用于某一种毛病。—平均数把那一部分稀释了:大差别被其他项拉平;有效的那群人被无效的那群人冲淡。
所以,看到一个平均数,先问三句:
第三句最关键。如果你要的就是整体——比如一个基金经理关心整个组合的回撤——平均数正好是你要的。如果你要的是某一块,总分就只是噪音。
COGNITION / 04
四、反过来也会错
拆开看,也有它自己的坑。
拆得越细,每一块里的样本越少,越容易拆出一个「这一组效果特别好」的假象。挑来挑去,总能挑到一个好看的小组。药物研究里,事后切出来的亚组结论,一向要打折扣,原因就在这里。
所以正确的做法不是「永远不信平均」,而是分组要在看结果之前就定好,理由要来自机制:肌少症按神经还是肌肉分型,是因为先有了机制上的理由;不是试验失败以后,回头找哪一群人看起来有效。
拆开看是为了找到你的问题在哪一块,不是为了在数据里挑一个好看的结论。
COGNITION / 05
五、出现什么,说明这篇错了
—如果把一组东西拆开,各块之间的差别很小,和总体差不多——那平均数就是可信的,这篇说的问题不存在。—如果按机制事先分好组的试验,结果和不分组一样平淡——那肌少症那个解释就站不住,「混在一起被平均掉」只是一种好听的说法。—如果开发者实际挑选模型,跟综合分排名基本一致——那综合分就比这里说的更有用。
COGNITION / 06
六、边界
排行榜的数字取自那篇评测拆解文章所引的当时版本,评测本身更新很快,具体分数很快会变,这里只用它说明结构。肌少症那篇是观点文章,作者自己也说新的分型方法还没有被证实能改善诊断和治疗,这里只借它的推理,不当成医学结论,也不构成任何个人的就医建议。
COGNITION / 07
七、三行复习
—一个平均数,先问它由哪几块拼成、几块之间差多少。—你的决定只关心其中一块时,总分是噪音,去看那一块。—分组要在看结果之前、凭机制定好;事后挑出来的好看小组,打折听。