← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第09章 A4 有边界的递归

能够修改自己的系统,很容易被想象成智能的最高形式。问题是,递归会同时放大能力和错误。

若一个 Agent 可以修改目标、工具、评审标准和停止条件,它也可以逐步消灭所有让自己失败的定义。最后得到的不是更强的自主,而是一个永远宣布成功的闭环。

三种边界

Scope 决定这轮允许改什么;halt 决定何时停止;review 决定谁可以从另一套视角检查结果。三者缺一,递归都容易漂移。

边界不是把系统锁死。好的 scope 允许局部创造,又保护根目标不被静默改写;好的 halt 允许任务在证据不足时返回 BLOCK;好的 review 不负责替 implement 重做,而负责指出承诺与结果之间的差异。

递归的悖论

审查者也会错,规则也需要更新。A4 因此不是「存在一个永远正确的上级」,而是要求修改发生在可命名层级。要改 success criteria,就不能把它伪装成一次普通实现;要改根目标,就需要重新授权。

真正危险的不是变化,而是变化没有 diff。