从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第08章 从误差到科学
个人可以承认错误,科学要求错误能被陌生人重复发现。
同行评议、预注册、公开数据和复现实验并不保证真理。它们做的是把反驳接口制度化,让结果不完全依赖作者的善意。
公开坐标
一个实验若只在原团队的隐性环境里成立,外部世界无法区分它是发现、手艺还是偶然。方法、数据处理、停止规则和失败样本必须被外化,才能形成公共坐标。
同样,AI 工作也需要可转移的证据。截图和「已完成」无法复现;仓库状态、测试命令、输入输出和事件记录更接近科学对象。
制度也会 Goodhart
论文数、引用、排行榜和 benchmark 最初都用于降低识别成本。一旦资源按它们分配,研究者就会学习如何生产指标。记分牌先识别人,随后开始制造人。
解决方案不是取消所有指标,而是让错误来源不完全相关:不同数据、不同评审、真实使用、长期追踪和公开反例互相制约。一个高一致性的共同体可能很高效,也可能只是在同一盲点上快速收敛。
科学的价值不在从不犯错,而在错误变成身份和基础设施之前,仍有人有权把它停下来。