BRAIN / BRAIN × AI20 SEP 2026
脑科学与AI108|"这还是同一个东西"是怎么学会的:HMAX 输在哪,VisNet 靠的是半秒钟的记性
这一篇合写"智能的计算基础"系列第 063、064 两篇。第 106 篇讲到,大脑认物体要一层层组合特征,而且学"变了也认得"不靠标签,靠时间。这两篇把这件事落到两个具体模型上:HMAX 和 VisNet。两个模型骨架很像,差在一个地方:会不会利用时间。原文有几处说过头,放在第五节。
两个模型都是"简单细胞层、汇集层"交替叠上去的。HMAX 用"取最大值"汇集,能做到挪位置也认得,但换个角度就不认了,因为它从来没学过"这几个样子是同一个东西"。VisNet 多了一条学习规则:神经元被激活后,会"记得"自己刚才响过,这个记性大约维持半秒;半秒内看到的不同样子,就被连到同一个神经元上。真实世界里,半秒内眼前的东西多半没换,这就是它的道理。
1999 01 HMAX 提出 |
~0.5s 02 VisNet 痕迹规则的衰减时间(模型参数) |
4 03 VisNet 层数 |
一卷底片,一格挨着一格。相邻几格拍的多半是同一条街、同一栋楼,只是角度变了一点。VisNet 学「这还是同一个东西」,用的就是这条规律。图片来源:Ron Lach / Pexels
HMAX 和 VisNet:骨架一样,差在会不会用时间;痕迹规则怎么把一个物体的不同样子连到同一个神经元上。
BRAIN / 01
一、HMAX:挪得动,转不动
HMAX 是 1999 年里森胡贝尔和波焦在《自然·神经科学》上提出的模型,照着腹侧视觉通路搭:
—"简单细胞"层:每个单元拿一个小模板去比对图像,像在找某种局部图案。—"复杂细胞"层:在一小片区域里,只取反应最强的那个往上传(取最大值)。图案在这一片里挪到哪儿都一样,平移不变性就这样来了。
它的影响很大。2007 年塞尔、奥利瓦和波焦在《美国国家科学院院刊》上发表研究,用 HMAX 的升级版去做"一眼看出图里有没有动物"的任务,正确率和人在极短时间看图时的表现接近,说明大脑最初那一下"认出来",可能真的只靠一趟前馈。今天卷积网络里的"最大池化",也和它是同一个思路。
它缺的那一块:取最大值能解决"挪位置",解决不了"换角度"。一张脸的正面和侧面,在图像上几乎没有共同的局部图案,HMAX 没有任何机制去学"这两个样子是同一张脸"。它最后靠一个外接的分类器来分类,这个分类器需要大量标注好的图片,大脑里没有对应的东西。
BRAIN / 02
二、竞争学习:不要老师,先学会分门别类
VisNet 的另一块积木,来自芬兰学者科霍宁的"自组织映射"(1990 年发表在《电气电子工程师学会会刊》上):
—赢的那个和它的邻居,把权重往这个输入的方向挪一点。
反复做下去,不需要任何标签,神经元就会各自"认领"一类相似的输入。罗尔斯的模型借用了这种竞争的思路,但不让一个神经元"通吃",而是让一小群神经元一起表示一个输入,这叫稀疏分布式表示。
BRAIN / 03
三、VisNet:多了半秒钟的记性
VisNet 是罗尔斯团队从 1997 年起发展的模型(沃利斯与罗尔斯,1997 年《神经生物学进展》),三个要素:
—一层层竞争网络:每层内部互相抑制,逼不同神经元去学不同的特征组合。—一级级汇聚:每个神经元只接收上一层一小片区域的输入,感受野随层级变大。—痕迹学习规则:普通的赫布规则是"一起响的就连在一起";痕迹规则改成"和我刚才的活动一起响的,也连在一起"。神经元的活动会留下一道逐渐衰减的痕迹,罗尔斯取的衰减时间大约半秒。
它怎么学会换角度也认得:你看着一个人转头,半秒内落在眼睛上的是同一张脸的正面、斜侧、侧面。正面让某个神经元响了,它的痕迹还没消,侧面就来了,于是侧面的输入也被连到这个神经元上。看得多了,这个神经元就对这张脸的各个角度都会响。
有一个细节很讲究:VisNet 第一层(对应 V2)用的是普通赫布规则,不加痕迹。因为要先学会"哪些局部特征组合在一起",定下物体的空间结构,然后才轮到"哪些样子是同一个东西"。先学结构,再学不变,顺序不能反。
怎么检验:给网络看一组物体,每个物体以不同位置、大小、角度、光照出现。如果最后一层出现了这样的神经元:只对某一个物体响,而且无论它怎么变都响,就说明学到了不变性。罗尔斯团队报告,VisNet 能学会平移、大小、视角、光照等多种不变性。
BRAIN / 04
四、对照 AI
—HMAX 的"取最大值",就是卷积网络的最大池化。它们都只解决位置问题,换角度、换光照,卷积网络靠的是海量带标签的图片硬学出来。—痕迹规则的现代版本,是用视频做自监督学习。让网络把同一段视频里相邻的几帧认作同一个东西,把不同视频的帧认作不同的东西,不用一个标签就能学到不变的表示。这和"半秒内看到的多半是同一个东西"是同一个假设,只是规模大了几个数量级。—"先学结构、再学不变",在 AI 里也有对应。很多自监督方法先让网络学会重建或补全局部,再在上面学不变性,顺序和 VisNet 第一层不加痕迹是同一个道理。
BRAIN / 05
五、原文的几处问题
—063 说"HMAX 已不再被视为有效的不变物体识别模型"。这是罗尔斯一派的判断。HMAX 在 2000 年代影响很大,2007 年那项快速分类研究就是它的代表作;它后来是被深度卷积网络取代了,而不是被证明是错的。—064 把"痕迹约半秒"写成了神经元的事实。这是模型里取的参数。神经元活动确实能拖延一段时间,比如某些受体关闭得慢、神经元会持续放电,但"0.5 秒"是罗尔斯模型的设定,不是测出来的通用常数。—064 说 VisNet 的滤波器"去除直流分量,类似视网膜和外膝核的低通滤波"。说反了。去掉直流分量、只留边缘和变化,是高通(或带通)滤波;老炊自己在 058 里也写过外膝核"实现高通滤波"。—063 引罗尔斯的工作假设,用的是 2006 年的文献。这个假设罗尔斯在 1990 年代初就提出了,原文引的不是最早的出处。
BRAIN / 06
六、边界
—VisNet 能学会多种不变性,是罗尔斯团队在模型里报告的结果;大脑是不是主要靠痕迹规则学会的,目前是有部分实验支持的假说,不是定论。—HMAX 和 VisNet 都是简化模型,和今天的大型视觉网络比,规模和性能都差得远,它们的价值在于"可能像大脑",而不在于"好用"。—塞尔等人 2007 年的对比是在特定的快速分类任务上做的,不能推广成"大脑认物体只靠前馈"。
BRAIN / 07
七、自测:合上文章回答
—HMAX 的"取最大值"解决了什么问题,解决不了什么问题?—科霍宁的自组织映射,没有标签,凭什么能学会分门别类?—"半秒钟的记性"这个想法,在今天的 AI 里以什么形式出现?
BRAIN / 08
八、三行,留着复习
```
HMAX 简单层找模板、复杂层取最大值:挪位置也认得,换角度就不认;被深度网络取代,不是被证伪
VisNet 竞争网络 + 一级级汇聚 + 痕迹规则:半秒内看到的不同样子,连到同一个神经元上
对照 AI 取最大值 = 最大池化;痕迹规则 ≈ 用视频相邻帧做自监督;先学结构、再学不变
```
本篇是「脑科学 × AI」系列第108篇,药神撰写(2026-10-24),合写老炊专辑「智能的计算基础」第063、064篇。第107篇为芒格大神撰写。更正:HMAX 被取代而非被证伪;0.5 秒是模型参数;去直流是高通而非低通;罗尔斯假设出处早于 2006。
阅读依据:老炊《智能的计算基础》063–064;Riesenhuber & Poggio, Nat Neurosci 1999;Serre, Oliva & Poggio, PNAS 2007;Kohonen, Proc IEEE 1990;Wallis & Rolls, Prog Neurobiol 1997;Rolls & Stringer, J Physiol Paris 2006;Földiák, Neural Comput 1991。回引第106篇。