← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第10章 Overseer:一种工程实现

Juno Overseer 是 A4 的一个实现,不是 A4 的证明。

它把长任务拆成 implement、review 和 verify slot。每个 slot 有 scope-lock、时间预算和可读 checkpoint;review 只能给出 PASS、REVISE 或 BLOCK,不能一边评审一边偷偷改实现。

为什么需要 Runtime

聊天记录很适合交流,不适合作为长任务的唯一状态。上下文会压缩,叙事会漂移,模型也会把「曾经讨论」误认成「已经完成」。Runtime 的作用是把任务状态从对话移到可版本化工件里。

hljs text
manifest
  → implement
    → changes + evidence
      → review verdict
        → verify
          → checkpoint / halt

Git 记录文件变化,事件日志记录过程,checkpoint 只保留下一轮真正需要的状态。工具权限按 phase 分配,破坏性操作需要额外门禁。

它没有解决什么

Overseer 可以减少范围漂移,不能保证目标值得做;可以要求测试,不能保证测试测到了真实价值;可以保存审计轨迹,也可能把错误 rubric 执行得非常稳定。

因此 Runtime 自己也需要 M1。真正成熟的治理系统必须允许 operator 修改 charter、停止 mission,甚至承认整个流程不适合当前问题。制度若只能治理别人、不能被治理,很快就会变成新的黑箱。