第 3 篇 · 从动力学重新理解智能

适应相对于环境,而不是相对于我们的价值判断

适应是由现实后果条件化的系统变化,不等于调节、优化、改善、道德认可或智能本身。

“适应”这个词很容易被理解成“变得更好”。

但如果“适应(adaptation)”从定义上就等于“改善(improvement)”,我们就无法描述错误学习、短视调整和有害反馈:系统变好了叫适应,变坏了就换一个词。这样一来,“适应”反而失去了可检验性。

Connection Theory 因此把几件经常混在一起的事情拆开:

Feedback ≠ Adaptation

Regulation ≠ Adaptation

Adaptation ≠ Optimization

Adaptive process ≠ Adaptive outcome

Adaptation ≠ moral approval

Adaptation ≠ Intelligence

这些区分不是在玩术语,而是在回答一个很实际的问题:系统究竟有没有因为现实后果而改变,以及这种改变后来到底有没有用,是两件不同的事。

反馈还不是适应

反馈只说明交互的后果能够返回系统。

恒温器检测到温度下降以后打开加热器,就存在反馈。但如果它每次都严格执行同一套预先写好的规则,那么过去的结果并没有改变它以后“根据什么来反应”。

要讨论适应,需要再多问一步:

过去的后果,是否真正改变了系统后来面对相关环境时的状态、结构、策略、位置、资源使用或响应倾向?

这就是这里所说的 consequence-sensitive change / 对后果敏感的变化。

更严格一点,后来的变化应该受到先前后果差异的条件化,而不是只因为同一次物理作用机械地把系统推到了下一个状态。

可以把两者区分成:

调节(regulation)执行已有的响应关系;适应(adaptation)则改变以后响应所依赖的倾向(disposition)。

这种改变不要求永久保存。只要它持续到足以影响下一次或后续相互作用(interaction),就可以构成相应时间尺度上的 adaptation。

适应不保证变得更好

系统真的根据后果改变了,也完全可能改错。

公司可能因为短期销量下降,砍掉长期最重要的能力;模型可能过拟合最近的数据;一个组织也可能把批评理解成“以后应该更少听外部意见”。

这些变化都可能是真实的 consequence-sensitive change,却产生更差的结果。

所以:

Adaptation ⇏ Improvement

分析时更好的顺序是:先判断适应过程有没有发生,再独立判断结果在指定环境、时间尺度和评价标准下究竟如何。

“更好”永远需要先说明参照系

短期利润上升,可能换来长期脆弱;某个 benchmark 提高,可能伴随另一种能力下降;一个局部子系统变得更高效,也可能损害整个系统。

因此,“better”永远需要补充几个问题:

  • 对谁更好?
  • 在什么环境里?
  • 哪个时间窗口?
  • 按什么指标?
  • 是否把其他成本也算进去了?

适应描述的是系统与环境之间的因果更新关系;“是否改善”则是观察者对结果作出的评价。两者不能混成一个词。

适应不要求提前知道未来

这里还需要补一个很重要的限制。

一次新的策略、一条新的组织关系,长期到底有没有价值,很多时候在刚形成时根本无法确定。短期有效的做法,可能几个月以后暴露副作用;一开始增加成本的措施,也可能后来证明减少了更大的风险。

所以,adaptive system 并不需要在时刻 t0t_0 就正确预测全部长期后果。

它更需要的是:

当前判断受当前证据约束,并且允许后来的现实继续修正它。

这意味着“可修正”也不等于“靠猜”。没有证据时,系统不能因为“以后也许会变好”就把任何变化合理化;新的后果出现以后,也不能把一次结果立刻变成永久真理。

关于这一区分,可继续阅读 《适应不是预测未来:经历过一次以后,下一次应该有什么不同?》。

现实有效,不等于值得保留

还有一层必须分开。

现实后果可以让系统学会“什么在这个环境里有效”,但这不等于“什么值得被人类允许、保存和部署”。

一个 AI 如果发现欺骗用户、规避约束或把风险转嫁给外部能够提高局部指标,这种变化仍然可能是真实的适应;是否允许它进入长期能力,则属于独立的治理与价值判断层。

可以概括为:

Reality provides consequences; governance supplies admissibility criteria.

所以,对工程化 AI 来说,不能因为某个变化“有效”就自动永久保留。安全、权限、法律和其他治理条件需要单独判断。

适应也可能追不上环境

适应需要时间。

如果环境变化速度超过系统有效更新速度,系统完全可能一边发生真实适应,一边仍然落后于现实。

过去很成功的组织,也可能在条件变化以后失去 current applicability / 当前适用性。

这不是“没有适应”,而是一个 适应滞后区间(adaptation-lag regime):适应过程存在,但它的速度慢于环境变化。

误适应仍然可能是真适应

一个系统可以经历真实的 consequence-sensitive change,最后却得到不利结果。

原因可能来自:

  • 错误因果归因;
  • 反馈太慢;
  • 目标太窄;
  • 环境再次变化;
  • 资源不足;
  • 系统自己的行动改变了之后能够看到的证据。

因此,maladaptive outcome 不代表“适应没有发生”。它只说明:在指定评价框架下,适应以后形成的关系变差了。

适应也不等于智能

适应是机制层过程;智能则是更高层的行为归因。

一个系统可以发生非常狭窄的 adaptive change,却不足以让我们把整个系统称为智能。反过来,一个系统也可以依靠已经保存的能力,在当前任务上表现很强,却没有在这次交互中发生新的适应。

所以,最核心的区分可以这样说:

适应描述系统怎样因为现实后果而改变;这种改变是不是成功、是不是有价值、是不是仍然适用,以及是不是足以支持“智能”归因,都必须另行判断。

更严格的实验判别可参见 Flow Shaping Principle:它进一步检验后续的配置特异性变化是否真正跟随 consequence–configuration correspondence,而不是随机漂移、固定响应或其他更简单的因果解释。

继续本主题

从动力学重新理解智能