← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第19章 尚未解决的问题

这套公理仍有许多缺口。

压缩与创造

A1 擅长解释学习已有结构,却不完全解释新目标、新语言和新制度如何出现。创造也许不是压缩的反面,而是在多个旧模型之间建立一种此前不存在的行动接口。但这仍需要更严格的定义。

误差与规范

A3 可以约束事实判断,却不能单独推出「应该」。谁的损失进入目标函数,哪些权利不能被平均收益交换,需要 A5 和政治哲学提供额外前提。

他者与不可通约

若不同主体的价值无法收敛,意义是否仍需要共同固定点?也许成熟关系不是达成同一表示,而是保留可翻译但不被消灭的差异。

自我修改的授权链

一个系统由谁授权修改自己?创建者、当前用户、受影响者和未来的自己可能给出不同答案。A4 的 scope 与 halt 只能管理过程,不能自动解决授权正当性。

生成自由如何测量

选择多不等于自由,偏好满足也不等于自由。我们需要判断一个系统是否扩大了人的能力、未来选项和修订权,同时没有把退出成本隐藏起来。这可能需要长期行为、制度接口和主观经验共同构成证据。

开放问题的意义不是给书留下续集,而是标明理论停止的位置。无法回答时继续造词,只会让边界变得更难看见。