← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第13章 Scaling 不是公理

规模扩展在过去十年极其有效:更多算力、数据和参数不断降低许多任务的误差。否认它是工程事实没有意义。

但「过去继续有效」和「规模本身就是智能」是两种命题。

Scaling 依赖 A1:数据中有可学习结构;也依赖 A3:更大模型确实在相关误差上改善。只要任务、数据或误差坐标变化,扩展曲线就可能弯折。

能力增长与目标缺失

更强的模型可以更准确地执行一个坏目标,也可以更稳定地迎合错误记分牌。能力回答「能做到什么」,治理回答「为什么做、谁承担、如何停止」。后者不会随着参数量自动出现。

边际曲线必须公开

当有人说「再大十倍就会涌现」,应同时说明在哪个域、哪个指标、什么预算下期待怎样的变化。若边际增益长期趋平,仍把失败解释成规模不够,这个命题就失去了 refute 接口。

Scaling 是一条强策略,不是自然法。把它放回公理体系的下游,反而能更清楚地看见它何时有效、何时只是在延长叙事。