从公理生长:智能、行动与可修订的自我
世界可以被局部压缩,行动会制造路径依赖,真理受误差约束,自主需要边界,意义来自他者。问题不是让 AI 永远服从昨天的你,而是保护人和系统继续修订自己的能力。
这本书从六条暂定公理开始。它们不是不可怀疑的真理,只是我愿意公开承担的推理起点:
| 编号 | 公理 |
|---|---|
| M1 | 任何关于世界和智能的判断都可能错,因此必须暴露修订接口。 |
| A1 | 世界在局部、尺度与预算内可压缩,否则学习无从发生。 |
| A2 | 行动会不可逆地分配时间、算力、资本和声誉。 |
| A3 | 真理不能被误差穷尽,但必须接受预测与干预误差的约束。 |
| A4 | 能长期递归的自主,必须拥有边界、停止条件与外部审查。 |
| A5 | 意义不是封闭系统里的私有属性,它在交互历史与他者之间形成。 |
初版由 Juno Overseer 分章生成和审校,留下约十万字。重写时我删掉了大量流程自述、重复模板和为了满足篇幅而展开的段落。Juno 仍是第十章的工程实例,但不再是全书必须证明正确的主角。
这次重写加入一个更接近我现在的问题:当行动、制度、群体和 AI 都会改写人的欲望与身份时,一个人如何保留参与这个改写过程的权利? 我把这种权利暂时称为生成自由。
第02章 可错性不是谦虚
「我可能错」常被用作一种社交保险:先说一句保留意见,后面继续按原计划行动。M1 要求的不是语气柔软,而是错误出现时系统真的能改变。
一个判断若想承担认识论责任,至少要留下三样东西:它依赖什么证据,在什么范围内成立,什么结果会让它被修改。缺少第三项的判断不是信念,而是身份。
可错仍然要行动
怀疑论最诱人的地方,是它让人免于承担错误。只要永远再等等,就不会在公开记录里犯错。但等待也会让窗口关闭、样本过期、别人先行动。M1 不取消判断义务,只要求判断带着失效条件进入世界。
负责任不等于永远保守。一个急诊系统面对不完整信息时仍必须给出下一步;一套交易系统也必须在「继续采样」和「停止投入」之间选择。差别在于,它是否记录置信度、代价和回看节点,而不是事后把所有结果解释成原本就知道。
错误需要外部化
人很擅长在脑内改写过去。公开预测、版本记录、预注册和事件账本的共同作用,是把误差从情绪变成对象。外部记录会增加短期难堪,却降低长期自欺。
这也是 AI 系统需要日志和版本的原因。模型输出一句「已完成」不构成证据;可重放的输入、工具调用、文件变化和验证结果才构成。可错性若没有基础设施,最后只是一种人格表演。