← 脑科学 × AI目录

脑科学与AI 20|把借来的词,换回机器义

BRAIN / BRAIN × AI20 SEP 2026

脑科学与AI⑳|把借来的词,换回机器义

"AI 学会了撒谎""它在思考""模型出现幻觉"——读这类新闻时,你有没有停下来问过:这里的"学会""思考""幻觉",和用在人身上时,是同一个意思吗?上一篇末尾埋了一句话:AI 术语借人类的词起名,借的是直觉,欠的是精确。这一篇把这句话展开成一份词表——它同时是本系列写到第 20 篇的一次复习。

每个拟人的术语都是一笔交易:借给你一半正确的直觉,同时埋进一个错误的推论。 命名本身就是一次有损导出(第 16 篇)——词是压缩包,你解压时用自己的直觉填充,而填进去的是人类心理学。读 AI 的第一项功课:见到拟人词,先换回机器义,再判断那句话还剩多少。

5

01

个词逐个清账:借对哪半,埋了什么

1

02

道替换题:拟人词换回机器义再读

20

03

篇的一次复习:词表即索引

五个借来的词:每个借你一半直觉,埋你一个推论。换回机器义后再读新闻,很多"突破"会缩水成工程改进。

BRAIN / 01

一、为什么术语要借词

先替起名的人说句公道话:不是他们粗心,是没有别的办法。全新的东西没有词,隐喻是最快的导出格式——"神经网络"三个字让一个数学结构在两秒内被外行大致领会,换成"多层可微分参数化函数复合"就谁也不传播了。第 16 篇讲过:语言压缩最狠、千人千解。术语命名是同一件事的极端版——借词借来了传播,代价是每个读者解压时,都往里填了人类心理学。 下面逐词清账:借对了哪半,埋了什么。

BRAIN / 02

二、五个词,逐个换回机器义

"学习"。 借对的一半:训练确实在改变系统自身(第 14 篇:知识是长成的,这一点两边真像)。埋的推论:它"懂了"。 机器义:外部程序按猜词的对错,把几千亿个数字各拧一点,重复几万亿次——模型自己不知道自己在被训练,也没有"明白过来"的那一刻。第 15 篇的判据在此适用:懂不懂,只能拿没见过的题考出来。

"注意力"。 借对的一半:确实在给不同的输入分配不同的权重。埋的推论:它像人一样在专注和忽略。 机器义:一种加权平均——算出每个词与其他词的相关分数,按分数配比混合。人类的注意(第 9 篇)是有代价的取舍:注意这个就要放弃那个;机器的"注意力"全都算了一遍,只是权重不同——它没有付出"错过"这个代价,而付代价恰恰是人类注意的本质。

"记忆"。 借对的一半:确实能接着上文说。埋的推论:聊过=它记得。 机器义(第 7 篇):每轮把此前对话整叠重读一遍,读完即忘——"记得你"是外挂文件在替它记。推论错在哪,用过长对话的人都撞过:换个窗口,"记忆"瞬间归零。

"幻觉"。 这个词埋的推论最深:它暗示模型平时"看见真实",偶尔看花了眼——是一种可以治好的病。 机器义(第 14 篇):模型没有原件可查,每次回答都是重建,对错是程度不是状态——所谓幻觉,只是重建走样到被你发现的那部分。换回机器义,"下一代解决幻觉"这句话就自动降级为"下一代走样更少"——期待值完全不同。

"专家"。 上一篇刚清过账,一句带过:流水线上的均匀分工,不是医院里的分科——切掉一个专家,丢的不是某科能力,是整体清晰度。

BRAIN / 03

三、这份账和钱有关

把词换回机器义,不只是较真——它直接改变你对一批声明的估值。

叙事的温度是靠拟人词升上去的:"它学会了推理"比"它生成更多中间步骤后正确率提高"值钱得多,"通往通用智能"比"在更多基准上得分更高"性感得多——可是后者才是发生了的事。 一个实用的读法:把新闻里的每个拟人词替换成机器义,再看那句话还剩多少。剩下的部分往往仍然可观——这几年的进展是真的——但溢价的那部分,正是压在词上的。判断一项"突破"的成色,先做这道替换题;替换后缩水最厉害的领域,叙事泡沫最厚。

BRAIN / 04

四、边界:别矫枉过正

三条克制。一,拟人词不全是错账——"学习=改变系统自身"这半边是真的,逐词判"借对了哪半",不是一刀切反拟人;二,脑科学自己也这么起名——海马体因长得像海马得名,借的是形状;心理学的"注意"最初也是隐喻——命名难是普遍困境,AI 不是特别不老实,只是特别新;三,机器义本身也会过时——如果哪天模型真长出可定位的分区(第 18 篇的观察哨)、真有了权重级的历史(第 17 篇),部分词的账要重清。词表不是永久判决,是当前余额。

BRAIN / 05

五、三行,留着复习

```

术语是交易 每个拟人词借你一半直觉,埋你一个推论;命名=有损导出,解压填进的是人类心理学

换回机器义再读 学习=拧数字 · 注意力=加权平均 · 记忆=外挂重读 · 幻觉=重建走样 · 专家=均匀分工

溢价压在词上 拟人词替换后缩水最厉害的说法,叙事泡沫最厚——这道替换题就是祛魅工具

```

本篇是「脑科学 × AI」系列第 20 篇,属个人学习与判断笔记,也是对前 19 篇的一次词表式复习。五个词的"机器义"均为对系列此前各篇已述机制的压缩转述;"替换后缩水=叙事泡沫"是我的判读方法,不构成对任何公司或声明的具体评价。第四节已自限:拟人词不全是错账、脑科学同样借词、机器义本身会过时。不构成任何投资建议。

阅读依据:"学习=按对错调整参数"见本系列第 12 篇;"知识是长成的、幻觉=重建走样、没法删"见第 14 篇;"记忆=每轮重读外挂文件"见第 7 篇;"人类注意=有代价的取舍"见第 9 篇(《神经科学:探索脑》第 21 章);"专家=均匀分工"见第 18 篇;"语言是压缩最狠的有损导出格式"见第 16 篇;"海马体因形状得名"沿用第 14 篇口径。注意力机制=相关度加权求和为该架构的教科书级表述,属常识级。