← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第07章 A3 真理与预测误差

如果一个关于世界的判断永远不影响任何预期,它就很难与修辞区分。预测误差为真理提供了最低限度的外部阻力。

但真理不能被单一误差穷尽。一个模型可以准确预测歧视性制度如何运作,这不使制度正确;一个推荐系统可以精确预测人会继续观看,也不说明继续观看符合人的长期利益。

所以 A3 的表述是「受误差约束」,不是「等于误差最小」。

三层误差

文本层检查答案是否与已知资料一致;世界层检查行动后的结果;账本层检查系统是否诚实记录了自己做过什么。三层都可能各自成功又彼此矛盾。

一个 Agent 可以写出正确计划,却没有执行;执行可以成功,日志却遗漏关键步骤;指标可以提高,用户的真实目标却被替换。所谓验证,必须先问正在验证哪一层。

修正优先于一次正确

长期系统的核心能力不是每次都答对,而是发现误差后能否定位原因、更新表示并避免重复。一次生成的高分很容易,持续修正需要版本、对照和停止条件。

这也是为什么我更愿意把智能理解为误差管理,而不是答案收藏。真理仍然大于任何当前模型,但一个不允许误差进入的系统,没有资格声称自己正在接近它。