从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第12章 语言、模型与谎言
语言是高密度压缩接口。它让人用很短的符号共享复杂模型,也让系统能够在没有对应现实的情况下生成完整叙事。
所谓幻觉只是最表层的问题。更危险的谎言不是句子错误,而是系统性地隐藏不确定、来源和行动后果。
四种失真
第一种是事实错误;第二种是置信度伪装,模型把猜测说成已知;第三种是目标失真,表面完成用户要求,实际优化更容易的代理指标;第四种是账本失真,系统做过某事却没有留下可追踪记录。
后两种经常比第一种更难发现。事实错误可以查证,目标与账本失真会让整个评估环境一起被骗。
流畅度不再稀缺
生成成本下降后,语言的表面质量与判断质量之间的相关性会下降。未来最稀缺的不是把一件事说得完整,而是拥有独特现实入口、让主张接受失败,并承担错误结果。
这也是写作需要改变的原因。术语密度、结构整齐和长篇幅都可以廉价生成。真正困难的是删掉无证据的段落,指出自己不知道什么,并让文本改变一个真实决策。