← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第20章 从公理生长

我们从一个最小事实开始:人和机器都在不完整信息中行动。

因为世界存在局部结构,学习才可能;因为结构有预算和视界,学习必须知道何时停止;因为行动消耗不可回收的资源,选择会制造路径依赖;因为判断会错,误差需要被记录和制度化;因为递归会放大错误,自主必须带边界;因为意义发生在关系里,任何系统都不能只对一份封闭画像负责。

这些推导最后落到生成自由。

自由不是最大化选项

人不可能不被塑造。家庭、学校、市场、群体和算法先决定哪些人生可见,行动再训练人的能力和欲望。更现实的自由,不是保持一个从未被世界碰过的真实自我,而是在塑造发生时仍能看见它、质疑它,并参与修改它。

它至少包含三层:选择的自由,成为的自由,以及生成的自由。前两层问能不能选、有没有条件把选择做成;第三层问,一个人是否能参与决定自己会成为谁,并创造今天还不存在的选项。

制度生产可能的自我

学校、公司和社区不只是容纳人,也在制造某些类型的人。它们决定什么值得奖励、什么失败可以重来、哪些偏离能被看见。

好的制度不只生产成功成员,还应生产能够反对它、离开它并建立新制度的人。高留存和高认同不自动是好事;一个无法安全退出的高信任共同体,只是更温和的锁定。

创造新的游戏

真正的从零到一,不只是做一个新产品,而是创造新的行动、角色、反馈和继续修改规则的接口。一个只有创造者能玩的系统仍是作品;一个别人能进入却不能退出的系统更接近牢笼。

值得创造的新游戏,应让后来者获得更多行动、退出和继续写下一版规则的能力。

AI 会让旧目标执行得越来越快。它可以把个人档案变成操作系统,把组织记分牌变成自动治理,把一次选择变成持续多年的默认行为。因此,未来最重要的对齐问题也许不是「AI 是否理解我」,而是:

它理解的是哪一版的我?当我改变时,谁有权修改答案?

这本书没有给出终局。它只给出一组暂时坐标:可错、可压缩、有代价、受误差约束、有边界、与他者共同生成。

坐标的意义不在让所有人走同一条路,而在我们偏离时,仍能说清自己从哪里开始,又准备在哪里改写。