← articles

从公理生长:智能、行动与可修订的自我

世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。

这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:

编号公理
M1任何关于世界和智能的判断都可能错,因此必须暴露修订接口。
A1世界在局部、尺度与预算内可压缩,否则学习无从发生。
A2行动会不可逆地分配时间、算力、资本和声誉。
A3真理不能被误差穷尽,但必须接受预测与干预误差的约束。
A4能长期递归的自主,必须拥有边界、停止条件与外部审查。
A5意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。

初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。

这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。


第15章 记忆、叙事与可修订的自我

记忆不是过去的无损录像。它在每次调用时重组,也服务于当前身份。人常把逐渐形成的偏好回忆成「我一直如此」,把偶然路径整理成命运。

AI 让这种叙事第一次可以自动执行。日记、聊天、任务记录和长期偏好进入个人 Agent 后,档案不再只描述一个人,它开始替过去的他安排未来。

AI 对齐哪一版的你

一个高度个性化的系统会从历史记录学习「你是谁」。它越准确,越擅长延续已有目标和表达方式。执行结果再写回档案,又成为下一轮继续执行的证据。

于是过去的自我获得了跨时间的自动权力。人可能更高效,也更难背叛已经过期的目标。

对齐修订程序

AI 不应只对齐静态画像,而应对齐一套允许自我修改的程序。至少要区分事实、猜想、目标和身份叙事;允许目标过期;保存反对证据;提供人工否决;也给无目的探索留出不被历史优化的空白。

真正属于人的系统,不只记得他曾经是谁,还要保护他成为一个档案无法预测的人的权利。