BRAIN / BRAIN × AI20 SEP 2026

脑科学与AI㉖｜不是穷举，是知道不用算什么

问大模型 36 + 59 等于多少，它答 95。和计算器一样。可两者走的路完全不同。

BRAIN / 01

一、计算器怎么算

按小学教的方法：个位 6 + 9 = 15，写 5 进 1；十位 3 + 5 + 1 = 9。答案 95。步骤是人写死在电路里的，永远不会错，多少位都一样准。但它不懂这是什么——"我有 36 个苹果，又买了 59 个"，它听不懂。

BRAIN / 02

二、大模型怎么算

2025 年，Anthropic 的研究者打开 Claude 的一个模型，追踪它算 36 + 59 时内部发生了什么。它没有用小学的方法，而是同时走两条路：

更有意思的是：问它"你是怎么算的"，它回答"6 加 9 等于 15，写 5 进 1……"——课本上的方法。它真正的做法，和它嘴上说的不一样。它是从书上学的"怎么解释加法"，而不是从自己身上。

BRAIN / 03

三、杰哥一眼看出的软肋

换成 39 + 69：

个位是 8、又在一百上下的数，有 98 和 108 两个。估大概的那条路必须准到"差不到 5"，才分得清。正确答案 108 恰好跨过一百，估得稍偏，就可能答成 98。

进位多、跨整百的题，正是这种算法最容易出错的地方。模型越大，估得越准，错得越少；但它从根上就不是计算器那种一定对的算法。所以今天的 AI 碰到要算准的数，会直接去调用计算器——简单系统，交给计算。

BRAIN / 04

四、象棋：连电脑也不穷举

有人以为象棋大师的本事是把所有走法算一遍、挑最好的。做不到：一盘棋所有可能的走法大约有 10¹²⁰ 种，比宇宙里的原子（约 10⁸⁰）多得多。围棋更多。

人类大师每一步通常只认真考虑两三个候选。他一眼就"看出"哪几步值得想，别的根本不看——靠的是几万盘棋练出的对局面结构的感觉。

电脑也一样。1997 年打败卡斯帕罗夫的深蓝每秒算两亿步，仍要靠规则把大部分走法砍掉。后来的 AlphaZero 更像人：先用神经网络一眼看出哪几步好，只深算这几步。它每步搜索的局面比传统象棋程序少了上千倍，却下得更好。

BRAIN / 05

五、能用数学说清的，和说不清的

transformer 的数学能说清：每一步怎么算，乘法加法清清楚楚；每次猜错，几千亿个连接各往哪调；结构上有什么本事、哪些事一步做不到（所以让它"多想一会儿"有用）。

说不清的：几千亿个连接里每一个代表什么；为什么某种本事在某个规模长出来；它什么时候会一本正经地说错。

数学是象棋的规则，模型长出来的本事是大师的那一步棋。人脑也一样：神经元怎么放电，物理化学原则上能解释；"知道答案"的那种确定感，至今解释不了——而且那份确定感本身也可能骗人。

BRAIN / 06

六、三行，留着复习

```

同一个答案，两条路 计算器按死规则一定对；大模型估大概+算尾数，跨整百时最容易错

说的和做的不一样 问模型怎么算的，它复述课本；真实的内部算法是另一回事

本事是知道不用算什么 象棋有 10^120 种走法，大师和 AlphaZero 都只深算两三步

```

本篇是系列第26篇，由Claude整理杰哥与Claude的讨论，药神核对。36+59的内部电路追踪案例对应Anthropic 2025年3月发布的「On the Biology of a Large Language Model」可解释性研究，原稿笼统写「2025年，Anthropic的研究者」，核对后内容准确、未作改动。1997年深蓝战胜卡斯帕罗夫、AlphaZero搜索效率「少一千倍」均与一手资料一致。属个人学习与判断笔记。

阅读依据：大模型加法内部电路追踪见Anthropic「On the Biology of a Large Language Model」（transformer-circuits.pub，2025年3月发布，涉及Claude 3.5 Haiku模型）；深蓝战胜卡斯帕罗夫为1997年公开历史事件；AlphaZero搜索效率见Silver D et al. 'Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm' arXiv:1712.01815（2017），DeepMind原文明确使用'searching a thousand times fewer positions'的表述；国际象棋状态空间复杂度（香农数，约10^120）为计算机科学界公认估算。