← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第03章 A1 世界可压缩

学习成立,意味着过去的某些结构可以减少理解未来所需的成本。若每个事件都与此前完全无关,记忆和模型都没有意义。

压缩不是把文件变小,而是找到一种表示,使规律比原始观测更短。最小描述长度可以写成:

L(M)+L(DM)<L(D)L(M) + L(D \mid M) < L(D)

模型本身需要长度,模型无法解释的残差也需要长度。一个复杂到能背下所有训练样本的系统,未必真正压缩了世界。

三种压缩

第一种是预测压缩:用过去减少下一步误差。第二种是因果压缩:知道哪些干预会改变结果。第三种是接口压缩:把复杂环境折叠成少数可行动变量。

三者不能混用。语言模型能预测下一句,不等于掌握了产生句子的全部因果;一个交易模型能在历史样本上排序信号,也不等于它能在自己的订单改变市场后保持有效。

世界模型不是世界

模型成功经常让人产生一种错觉:被忽略的变量不重要。其实模型只是在某个任务界面上足够好。天气预报不需要模拟每个分子,导航也不需要理解城市里每个人的目的。

因此 A1 的完整说法必须带上域、尺度和预算。不是「世界可压缩」,而是「在这个问题、这个视界和这组资源下,某些结构值得继续学」。离开这些限定,A1 会变成任何失败都能靠「还不够大」推迟的信仰。