假设一个系统第一次遇到某种情况时判断错了,付出了真实代价。过一段时间,它又遇到一个在关键条件上非常相似的问题。
这时,我们对“适应”最基本的期待是什么?
不是要求它第一次就预见全部长期后果,也不是要求它永远不再犯错。更低、也更实际的要求是:第一次经历不能像从来没有发生过一样。 如果那次经历已经产生了可信的新证据,后来的判断就应该有机会因此发生变化。
这篇文章要澄清的正是这一点:
适应不是把未来猜得更准,而是在现实已经给出新证据以后,能够据此改变下一次反应。
“不要犯第二次同样的错误”为什么是一个有用的直觉?
日常生活里,我们经常用一句很朴素的话评价学习能力:同样的错误,不要犯第二次。
这句话当然不能按字面理解成“人永远不能再次失败”。现实中的两次情境很少完全相同,第一次失败也可能只是偶然。它真正抓住的是一个更基础的结构:过去发生的事情,应该能够进入未来的决策。
如果一个公司因为某个交接漏洞造成严重损失,事后已经找到原因,却几年后在相同交接条件下原样重演;如果一个 AI agent 已经收到清楚反馈,知道某种工具调用在当前环境里会失败,下一次却仍然像从未见过这个结果一样行动——那么问题不只是“又错了一次”,而是前一次经验没有有效改变后续行为。
可以把最低限度的学习链写成:
这里最后一步最重要。没有它,前面的反馈最多只是被记录下来,并没有真正进入适应。
《圣斗士》的例子为什么直观?
《圣斗士星矢》里有一个非常夸张、但很好理解的战斗设定:同样的招式,很难第二次用同样方式击败一个已经见过它的圣斗士。
第一次,他可能完全不了解这种攻击,因此被击中甚至被击败。可一旦经历过,第二次面对同样的关键模式时,他就不应该还是第一次那个毫无信息的状态。
漫画当然把这种能力推到了极致,现实中的人和 AI 都不可能因此保证第二次一定成功。这个例子真正有用的地方只有一个:
Exposure should leave a functional trace.
一次具有信息价值的经历,应该在系统里留下能够影响未来反应的痕迹。
它说明的是经验如何进入后续行为,不是说系统从此获得了预知未来的能力。
但一次失败不能自动变成永久规则
这里马上会遇到另一个问题。
如果一个方法失败过一次,是不是以后永远不能再用?当然不是。
第一次失败可能来自偶然噪声,也可能因为当时缺少资源、输入异常、执行错误,或者环境后来已经发生变化。如果系统只要看到一次坏结果,就永久反转策略,它同样不是在适应,而是在对有限证据过度反应。
所以,真正需要的不是:
一次结果 → 永久结论
而是:
当前证据 → 当前判断 → 后续结果 → 更新判断
判断的强度应该和证据的强度相称。重复出现、来源独立、与机制一致的结果,通常应该比一次孤立事件获得更高权重;新的反例出现以后,原来的判断也应该能够下降。
因此,适应性系统的判断天然带有一个重要性质:可修正。
长期作用很多时候就是无法提前知道
公司里一项新的制度、一条新的协作关系,甚至一个新岗位,刚出现时往往只能看到部分后果。
短期内,它可能降低错误率;几个月后,才发现它拖慢了决策。也可能一开始增加成本,后来却因为减少了更严重的事故而显示出价值。还有一些作用,要等环境变化以后才会出现。
所以,一个系统在时刻 评价某种改变时,通常不可能拥有完整的长期结果。
这不是适应理论的异常情况,而恰恰是为什么需要持续适应:
如果未来后果在一开始就全部已知,很多问题只需要一次性优化;正因为后果不完全可知,系统才需要让后来的现实继续修正自己。
因此,Connection Theory 不要求一个 adaptive system 在连接、策略或组织变化发生时就知道它“最终到底好不好”。它只要求更窄的事情:随着后果逐渐出现,新的证据能够进入系统,并对后续状态和行动产生因果影响。
后知后觉并不自动等于失败
现实组织里的很多改变确实发生在问题出现以后。
发生事故,才增加检查;客户大量流失,才发现流程有问题;别家公司出现严重漏洞,自己才补上防护。这些都带有明显的“后知后觉”。
但开放世界里,很多信息本来就只有在事件发生以后才存在。系统没有提前知道一个此前从未出现、也没有足够先验信号的问题,并不自动说明它缺乏适应能力。
更有区分力的问题是:
当具有实质相关性的新证据已经出现以后,系统有没有识别它、保留它,并据此调整?
如果答案是没有,那么我们看到的才是更直接的更新失败。
当然,成熟系统可以比“出大问题以后再补救”更进一步。它可以利用重复的弱信号、类似系统已经发生的事故、小规模试验、模拟结果或其他当前已经存在的证据,在灾难发生前调整。但这仍然是基于证据的更新,不是预言。
反馈不是答案,证据也不是现实本身
还有一层必须分开。
一个结果返回系统,只能说明发生了反馈。它并不会自动告诉系统“真正原因是什么”。销量下降可能来自价格、产品质量、竞争变化,也可能来自统计波动;一个 AI 输出被用户拒绝,也可能是答案错误、用户目标变化,或者输入本身存在问题。
因此:
Feedback ≠ truth
反馈提供的是新的现实约束和证据。系统还需要判断这份证据与什么有关、可靠程度如何,以及它是否足以支持某种改变。
这也意味着,adaptive updating 永远可能出错。Connection Theory 不把适应定义成“每次都学对”,否则我们就无法描述误学、过拟合、错误归因和环境改变以后已经失效的旧经验。
原来正确的经验,也可能后来变错
即使过去的判断在当时是正确的,也不能保证永远正确。
一个公司在高速增长时期形成的流程,进入成熟期后可能变得臃肿;一个模型在某个用户群上学到的策略,换到新的环境后可能失效;一种过去降低风险的制度,也可能因为技术和行为方式变化而制造新的风险。
所以,适应不是“找到一次正确答案,然后永久保存”。更接近的是:
在当前环境和当前证据下形成暂时有效的匹配,并继续允许现实检验这种匹配是否仍然成立。
这就是 current applicability / 当前适用性 的意义。过去成功,只能说明过去某些条件下成立;现在还是否适用,需要新的证据。
这对 AI 的区别在哪里?
一个 AI 可以拥有非常强的静态能力,却不一定在运行中发生适应。
如果它第一次犯错以后,错误只停留在当前对话里;下一次新的交互开始时,系统仍然回到原来的状态,那么它可能表现得很聪明,却没有把这次经历真正带进未来。
反过来,一个系统也不需要因为每一次交互就立即重写整个基础模型。经验可以以不同时间尺度影响未来:当前上下文、临时状态、长期记忆、策略、组织关系或其他持久状态,都可能承载变化。
Connection Theory 在公开理论层不规定必须采用哪一种工程实现。真正的判断标准更一般:
过去的后果,是否以可检验的方式改变了系统后来面对相关环境时的行为倾向?
核心原则
把前面的内容压缩起来,可以得到四条非常简单的原则:
- 适应不要求预知未来。 长期后果常常只能后来才知道。
- 适应不能靠猜。 调整必须受到当前可获得证据的约束。
- 一次经验不等于永久真理。 判断必须允许被后续证据修正。
- 经验必须能够进入未来。 如果具有信息价值的后果发生以后,系统仍然像什么都没发生过一样,适应就没有真正完成。
所以,适应真正值得追求的不是“永远正确”,而是另一种更现实的能力:
当现实提供新证据时,系统能够比过去更及时、更准确地更新自己;当现实再次改变时,它也仍然能够继续更新。
这也是为什么智能如果要跨时间存在,就不能只看第一次做得有多好,还要看:经历过以后,下一次会不会有所不同。