从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第01章 为什么从公理开始
AI 讨论很容易变成能力清单:上下文更长,工具更多,基准更高,模型似乎就更接近智能。清单对产品有用,却回答不了「为什么这些能力属于同一个东西」。下一代架构出现后,我们往往只换一套名词,旧问题原封不动。
公理方法的价值不在庄严,而在可追责。若结论错了,我们应该能指出是哪个前提、哪一步推导或哪个观测接口出了问题。没有坐标的理论只能整体相信或整体抛弃;有坐标的理论才允许局部修订。
这也是为什么我把 M1 放在所有公理之前。公理不是免于证伪的特权,而是主动声明:「接下来的错误从这里开始算。」
公理不是事实清单
A1 不是说宇宙有一本等待下载的说明书,只说学习依赖某种可复用结构;A2 不是鼓励行动主义,只说等待同样消耗机会;A3 不把真理降成排行榜,而要求宏大判断至少不能长期逃避误差;A4 不赞美控制,它提醒递归系统会把小错放大;A5 也不神化关系,它只否定一种封闭语义:一个符号若永远不进入公共使用,就没有稳定指称。
这些公理是否独立,仍可争论。A3 也许只是 A1 在预测任务里的投影,A5 也许需要被拆成指称与规范两条。保留这种不稳定,不是理论不成熟,而是拒绝把目录伪装成自然法。
第一性原理的边界
从第一性原理出发,不等于从零知道一切。人选择哪些「第一性」,仍受历史、语言和问题意识影响。真正严格的做法,是让起点尽量少、推导尽量可见、经验反例有地方进入。
本书不是 AGI 时间表,也不试图证明某种模型必然觉醒。它更像一张约束图:什么样的系统可能学习、行动、修正并与他者共同生活;什么样的系统即使很强,也只是在更快地执行一个未经检查的目标。