从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第16章 经济、算力与注意力伦理
智能从来不是无成本的抽象。训练和推理消耗芯片、电力、资本、数据与人的注意力。成本如何分配,会反过来决定什么样的智能被生产。
当生成趋近免费,验证会变得更贵。组织可以同时提出成千上万个方案,却没有足够用户、实验和责任人去判断它们。虚拟智力产能越大,现实反馈越可能成为瓶颈。
谁承担外部性
一个推荐系统带来收入,注意力和心理成本由用户承担;一个 Agent 提高团队产出,审查和事故责任可能落到少数人身上;一个模型吸收公共文本,价值却集中在基础设施拥有者手里。
效率指标若不记录这些转移,就会把成本消失误认为成本不存在。
算力应该买什么
更多算力不应只购买更长输出,也可以购买不确定性估计、对照实验、审查、可解释日志和更安全的停止。市场通常奖励可见能力,治理必须为不可见的克制付费。
伦理不是系统完成后再加的说明书。预算、权限和默认值已经在分配谁的时间更重要、谁可以犯错、谁必须承担后果。