从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第05章 A2 行动即承诺
行动不只改变外部世界,也改变之后还能由谁来选择。
写下一段代码、签一份合同、公开一个观点、加入一个组织,都会不可逆地消耗时间、资本和声誉。代码可以回滚,已经形成的用户依赖和他者判断不能回滚;合同可以解除,错过的窗口不会回来。
等待也会花钱
人常把「继续观察」当成中性选项。实际上,等待消耗时间,也让其他路径发生变化。信息价值必须和期权衰减一起计算:多等一天会获得什么证据,又会失去什么机会?
这不等于越快越好。真正有效的原则是最小可检验承诺:把一次巨大下注拆成能尽早获得外部反馈的行动,同时让失败仍在可承受范围内。
选择会制造选择者
经典决策理论常假设偏好已经存在,人只需从选项中挑出最优。真实人生更麻烦。长期学习一种技艺、经营一家公司或进入一段关系,会改变人的注意力、能力、同伴和评价标准。
你以为自己在选择道路,也在选择十年后由什么样的人回头评价今天。选择越深,未来的自己越可能认为它理所当然。这既是复利,也是身份债务。
因此承诺应该深,身份应该轻。可以长期承担一个问题,不必把「永远做这件事」写进人格。能在证据变化时修改项目,而不把修改理解成自我毁灭,是比坚持更难的能力。