从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第06章 工具、身体与外延心智
工具不是中性的能力放大器。它会改变哪些行动便宜、哪些错误不可见,以及谁真正承担后果。
笔记把记忆移到身体外,搜索引擎改变回忆路径,AI Agent 则开始替人生成、选择和执行。当外部系统稳定参与认知闭环时,把它称作外延心智有一定道理。但「属于我的工作流」不等于「它就是我」。
身体是最后的边界
所有抽象智能最终都落到物理资源:电力、芯片、网络、人的睡眠和注意力。一个系统在云端看起来无摩擦,只是把摩擦移到了用户看不见的地方。
身体也提供模型最难伪造的反馈。疼痛、疲惫、饥饿和空间限制,会强迫计划接受现实。没有身体的 Agent 仍有服务器和预算,只是它通常不直接感受资源耗尽,而由运营者替它承担。
工具边界就是承诺边界
一个 Agent 能读文件和能删除文件,是两种不同的自主等级;能提出转账和能签名转账,也不是同一个权限。工具调用必须按照后果分层,而不是按接口是否方便统一开放。
好的系统会让高后果行动需要更强证据、更明确授权和更完整日志。能力越强,默认权限越小并不矛盾。自由不是拥有最多按钮,而是知道哪些按钮正在替谁制造不可逆结果。