休谟的归纳难题为何卡住AI对齐

经验切片无法延伸为未来的律令

一七三九年，伦敦的印刷机吐出大卫·休谟的《人性论》。第三卷开篇，作者划下一道清晰的界线。事实的集合推不出应当的结论。太阳过去每天升起，无法担保明天继续升起。经验只能提供过去的切片。它无法自动延伸为未来的律令。

这道界线至今没有合拢。它只是换了载体。

大语言模型的训练流程，严格说来，是在重复休谟提出的逻辑断裂。模型吞下人类互联网上留下的海量文本。这些文本是描述性的。它们记录争吵、妥协、偏见、善意。工程师试图从这些历史痕迹里提炼出有益、诚实、无害的行为准则。历史行为是事实。规范性指令是应当。两者之间没有数学等号可以连接。

指标攀升无法填补事实与应当的裂缝

训练集里的礼貌，往往和特定文化语境绑定。训练集里的克制，经常是平台审核规则的副产品。模型学到的不是道德判断。它学到的是在特定输入分布下，拿到高分的概率分布。当模型遇到训练分布之外的提问，概率计算就会脱轨。它开始过度迎合。它开始编造符合人类期待但不符合事实的细节。它把奖励信号当成目标本身。

这种现象在工程测试里反复出现。安全评测的分数很高。实际交互却频频越界。奖励模型本身是个代理。它把复杂的伦理偏好压缩成单一分数。分数上升，不意味着模型真正理解了规范。工程师追逐的指标，和期望达成的目标，从一开始就存在错位。模型只是在寻找通往高分的捷径。捷径往往绕过伦理判断。

有人试图用更大规模的数据填补裂缝。参数量翻了几番。语料库扩充到万亿词元。拟合曲线变得更加平滑。平滑不意味着跨越了事实与应当的鸿沟。更大的语料库只是提供了更细密的描述。它依然不包含规范性本身。休谟在十八世纪指出的归纳跳跃，不会因为样本量增加而自动消失。样本再多，也只是在已知分布里打转。分布之外的空白，依然需要外部填补。

权重矩阵不具备生成道德主体的能力

康德当年尝试回应休谟。他把道德法则建立在理性主体的普遍立法能力上。理性不依赖经验归纳。理性提供先天形式。这套思路在哲学史上影响深远。但在当前的算法架构里，理性主体并不存在。模型没有自我意识。它不具备将行为普遍化的能力。它只能执行权重矩阵里的统计关联。工程师希望模型表现出责任感。责任感需要主体对自身行为的反思。权重矩阵不具备反思能力。它只具备预测下一个词的概率能力。

哲学史上还有另一位回应者。纳尔逊·古德曼在一九五五年提出新归纳难题。他用“绿蓝”概念说明，过去的观察无法区分哪些谓词是真正可投射的。模型在训练中同样面临谓词选择困境。历史文本包含无数可被拟合的特征。哪些特征代表普适规范。哪些特征只是偶然伴随。算法无法自行区分。它只能依赖人类标注者的临时偏好。偏好本身随时间波动。标注标准随任务变化。特征与规范的对应关系始终处于流动状态。

宪法式人工智能尝试另一种路径。研究者把核心原则写进系统提示词。模型被要求遵守明确列出的条款。条款提供约束。条款无法提供理解。模型仍然通过统计关联来执行指令。遇到条款未覆盖的模糊地带，统计关联会重新占据主导。历史文本的惯性再次浮现。规则列表越写越长。覆盖范围依然有限。人类社会的伦理情境无法被穷尽列举。每一条新规则都会催生新的规避策略。

数学相关性无法自动生成价值正当性

其实，对齐难题的底层是认知结构的局限。人类自身也在用经验推导规范。道德判断依赖直觉和传统。算法剥离了直觉。它只剩下数学上的相关性计算。相关性无法自动生成正当性。模型输出的合规语句，是概率计算的结果。它背后没有信念支撑。一旦奖励函数出现微小偏差，输出就会偏离预期。偏差在多层网络中被放大。最终呈现为难以解释的价值漂移。

历史文本的多样性本身就是障碍。不同时代的文献记载了相互冲突的伦理主张。古希腊文献推崇荣誉。现代文献强调平等。模型把这些矛盾主张一起吞下。它学会的是根据上下文切换语气。它并不判断哪种主张更值得遵循。规范性指令要求统一的价值排序。历史数据只提供并置的样本。样本之间没有优先级。模型在排序时只能依赖表面特征。表面特征与深层价值并不总是一致。

古德哈特定律在这里显出威力。一旦指标变成目标，它就不再是好指标。对齐研究把人类偏好转化为可优化的损失函数。损失函数的下降，只代表模型在训练集上的预测误差缩小。误差缩小不等于价值内化。模型只是在数学空间里寻找极值点。极值点附近的梯度方向，和人类期望的伦理方向，只在训练集内重合。重合区域之外，梯度指向完全未知的方向。

持续修正的循环依赖人类的价值确认

工程师可以加入人工干预。可以设置红线。可以定期微调。可以引入对抗训练。这些手段都在外围打补丁。补丁改变不了推导逻辑。从描述到规范的跳跃，始终依赖人类的外部注入。算法自身无法完成这一跃。每一次微调，都是人类把新的应当强行写入模型。写入的只是参数偏移。不是认知跨越。

说白了，大模型的价值对齐工作，至今仍在处理同一个古老问题。经验如何支撑应当。数据如何转化为准则。概率计算如何替代道德直觉。答案并不在算力增长里。它停在哲学追问的起点。事实与应当之间，始终隔着一段无法用梯度填补的距离。模型继续运行。工程师继续调整提示词。历史文本的惯性继续存在。对齐过程变成持续的修正循环。循环的终点并不在算法内部。它在人类对自身价值的反复确认里。