能制造，不等于理解：AI究竟是发明，还是发现？

我们制造了大模型。

芯片是人造的，代码是人写的，训练目标也是人设定的。照这个逻辑，AI当然是发明。

可问题很快出现了：模型内部为什么形成某种结构，某项能力为什么在特定阶段出现，为什么相邻任务的表现会如此不对称，工程师常常要等模型训练完成后，再通过实验一点点逆向理解。

于是有人提出一个更大胆的说法：AI的外壳是人类发明的，内核却是人类发现的。

这个说法很迷人，但必须小心。

能制造一个系统，不等于已经理解它；但尚未理解，也不等于它来自人类之外。

先把“AI”拆成三层

把整个问题压成“发明还是发现”，很容易把不同层次混在一起。

第一层是人类明确设计的工程条件：GPU、集群、模型架构、训练数据、损失函数、优化器和后训练规则。

这些都带着创造者的选择。换一家公司、换一组数据、换一种目标，最后得到的模型就可能完全不同。

第二层是训练以后形成的内部结构。

工程师没有逐项写入感应头、傅里叶式算法或每一个概念表征。人类设计的是一个学习过程，而不是一张完整的内部电路图。

第三层是我们后来观察到的经验规律，例如规模、数据、算力与误差之间的关系，以及不同模型是否形成相似表征。

这些规律需要测量和验证，不能靠设计者宣布。

所以，更准确的说法是：

系统是发明的，系统内部形成的部分结构和规律是被发现的。

大模型为什么越来越像研究对象

传统工程的理想顺序是：设计、制造、验证。

大模型更常见的顺序却是：设定训练条件、得到模型、观察行为、命名能力、逆向解释。

机制可解释性研究使用探针、消融、对照实验和稀疏自编码器，去理解一个人类亲手训练出来、却无法直接读懂的系统。

这确实说明，大模型已经不只是普通软件。

普通程序的关键规则由程序员明确写入；神经网络则通过大量参数，在数据和目标函数约束下形成分布式表征。设计者知道训练过程，却无法从单个参数直接读出模型掌握了什么。

但这里必须守住一条边界：

研究方法像自然科学，不代表研究对象就是天然存在的自然物。

金融市场、城市交通、互联网和演化算法同样由人构建，却会产生设计者无法穷尽预测的整体行为。

复杂系统会超出创造者的直接理解，这本身并不神秘。

四条看起来像“发现”的证据

第一，模型会形成没有被逐项指定的算法结构。

研究人员曾发现，小型网络在解决模加法问题时，内部学出了类似离散傅里叶变换的表示。没有人把这套公式逐行写进去，但训练目标筛选出了一个有效解。

第二，不同模型可能形成部分相似的表征。

如果它们都在压缩同一个世界、同一批人类文本和相近任务，相似结构并不意外。重要的是确认这种收敛在多大范围内成立，而不是先把它解释成“共同现实的影子”。

第三，一些能力不是产品团队最初逐项规划的。

上下文学习等现象往往先被观察、再被命名和利用。不过，“没有逐项设计”不等于“完全无因而生”。预测下一个词，本来就要求模型利用上下文；训练材料中也包含推理、示范和程序。

第四，Scaling Law呈现出相对规整的经验关系。

它值得研究，却不是光速或能量守恒。它依赖参数口径、数据、架构、优化器、训练预算和测量方法。经验曲线会被新实验修正，不能自动升级成自然界基本定律。

这些证据共同支持一件事：

大模型内部存在非直接设计、需要实验识别的结构。

它们没有证明“智能作为独立实体早已存在”。

三个容易越过的逻辑台阶

第一个台阶，是从“不可预测”跳到“不是人造的”。

复杂系统普遍存在意外结果。设计者无法预测每一次交通拥堵，不代表交通系统来自外部文明。

第二个台阶，是从“模型趋同”跳到“它们触碰了同一个柏拉图世界”。

趋同也可能来自共同的数据、目标、架构和物理约束。不同桥梁都会使用三角结构，首先说明它们面对相同受力问题。

第三个台阶，是从“可解释性很困难”跳到“我们召唤出了某种预存智能”。

这类解释目前没有独立证据，也没有提出区别于普通技术发展解释的新预测。不能被证伪的想法，可以作为文学和哲学想象，却不能冒充科学判断。

真正值得重视的不是神秘，而是失控距离

“AI是发明还是发现”最有价值的地方，不是给AI增加神秘感，而是暴露一个现实问题：

我们制造能力的速度，正在超过理解和控制能力的速度。

这会直接影响安全、责任和治理。

如果企业把一个无法充分解释的模型接入金融、医疗、工业控制或公共服务，仅仅知道“平均表现很好”并不够。

还需要知道：

它在什么条件下失效？

错误是否能够被发现？

高风险动作是否需要人工审批？

模型升级后，旧评测是否仍然有效？

出了问题，由模型公司、部署企业还是最终操作人员承担责任？

因此，真正的分界不是“人造”与“天降”，而是：

我们对它拥有多少可验证的理解、控制和责任能力。

一个更稳的三层答案

关于AI是发明还是发现，可以暂时停在三个层次。

一，系统是发明的。

架构、数据、目标函数、训练和部署均由人类选择，并带着公司的资源、价值偏好和商业目的。

二，内部规律是发现的。

训练后形成的电路、表征、算法和行为，需要通过实验识别；发现这些结构，是机制研究的真实工作。

三，智能是否作为独立结构预先存在，目前没有证据回答。

不要因为科学尚未解释完，就急着用神秘叙事填满空白。

最需要警惕的，不是AI像不像一个被发现的物种，而是人类会不会把“能够运行”误当成“已经理解”。

留给未来的四个检验

第一，不同架构、数据和模态的模型，内部表征是否仍会稳定收敛？

第二，机制可解释性是否能从事后描述，进步到提前预测模型行为？

第三，我们能否在训练完成前，可靠预测某种能力何时出现、何时失效？

第四，对内部机制理解得更深，是否真的能降低生产环境中的错误和风险？

如果这些问题逐步得到肯定答案，大模型会重新变得更像可控工程。

如果长期无法回答，它就会越来越像一种人类制造、却必须用经验科学持续研究的新型复杂系统。

这两种结果都不需要神话。

只需要承认：

我们已经学会把它造出来，但还没有完全学会怎样理解它。

材料边界：本文讨论AI工程与科学哲学问题。文中涉及机制可解释性、Scaling Law、表征收敛和涌现能力的例子，仅用于说明论证结构；具体结论仍应以原始论文、复现实验和后续研究为准。关于外部文明或“预存智能”的说法目前没有可验证证据，不作为事实判断。