“智能”是人工智能里最常用的词之一,但也正因为太常用,它很容易把不同问题压成一个词。
一个系统会推理、会规划、会学习、会适应、会调用工具、会在新环境里改变做法,我们都可能说它“很智能”。这种说法在日常交流里没有问题,但如果要做理论分析,还需要继续往下问:
我们究竟观察到了什么,才把“智能”这个高层标签归给一个系统?这些表现又是由哪些更底层的因果过程产生的?
Connection Theory 不把 intelligence 当成藏在某个节点里的神秘实体,而把它当成一种观察者层面的归因:我们根据系统跨时间、跨条件表现出来的综合行为,判断它是否表现出足够广泛、稳健和可迁移的智能能力。
“智能”把很多不同现象压在了一起
当我们说一个人或一个 AI “很聪明”时,可能同时在说很多事情:
- 它已经储存了很多能力;
- 它能在当前问题上推理;
- 它能从新经验中学习;
- 环境变化以后,它能调整;
- 它能把能力迁移到新的情境;
- 它能规划并利用工具;
- 它在多次、不同条件下仍然表现稳定。
这些现象彼此相关,却不是同一个变量。
如果科学分析只停在“智能高不高”,很多真正有区别的问题就会被遮住。比如,一个模型可能第一次就做得很好,却完全不会从新的后果中改变;另一个系统第一次表现一般,却能够迅速吸收经验,在后来明显改善。只用一个总分,很难解释这两种系统到底有什么不同。
所以,Connection Theory 更愿意先把高层标签拆开,再研究它是怎样被底层组织实现的。
AI、Intelligence 和 AGI 不是同一个层级的词
这里还需要区分行业名称和理论定义。
AI 可以继续作为“人工智能”这个技术领域和系统类别的通用名称。
Intelligence 则是需要根据行为证据单独判断的理论归因。
AGI 也可以继续作为行业里对广泛、稳健、可迁移人工能力的宏观名称,但不能因为一个系统被叫作 AGI,就默认它内部存在一种叫“general intelligence”的基本实体。
所以:
被称为 AI,不等于已经证明满足这里的 intelligence 定义。
名称可以沿用,但名称下面的解释对象必须分清。
阅读:AI、Intelligence 与 AGI 的术语关系
智能不是藏在某一个节点里的东西
一个神经元可以参与智能行为,却不会单独拥有完整智能;一个模型参数可以影响输出,却不包含完整推理;一个人在公司里可能非常关键,也不等于整个公司的能力。
更有用的解释链是:
同样的部件,在不同连接、时序、状态、反馈和协调方式下,可以表现出完全不同的整体行为。
因此,“智能到底在哪里”往往不是最好的问题。更好的问题是:
当前是哪一种组织,在什么环境里,通过怎样的动态过程,实现了这些后来被我们称为智能的行为?
能力强,不等于会适应
一个系统可以表现得非常强,却在整个测试期间完全不改变。
一个训练充分的模型在 benchmark 上取得高分,说明它已经拥有很强的 stored capability / 已保存能力。但这还没有回答另一个问题:新的交互和后果出现以后,它会不会因此改变下一次的反应?
所以需要区分:
Capability 描述系统现在能做什么;adaptation 描述系统怎样因为与环境发生关系而改变。
两者会互相影响,却不是同一个变量。
这个区别很实际。一个人第一次解决陌生问题的能力,和他第一次失败以后能不能改变做法,是两种不同的能力。
适应也不等于智能
反过来,也不能把 intelligence 简化成 adaptation。
一个很简单的系统也可以发生狭窄的适应性变化,却不足以让我们把整个系统称为“智能”。例如,一个系统可能只会根据某个局部后果调整一个参数;这说明适应发生了,但还没有证明它拥有广泛、稳健、可迁移的综合能力。
因此,本网站当前采用更谨慎的分层:
- adaptation:机制层的、由后果差异性条件化的变化;
- adaptive behaviour:这种机制可能产生的行为表现;
- intelligence:观察者根据跨时间、跨条件的综合证据,对整个行为 profile 作出的更高层归因。
可以把这条链写成:
Causal Organization → Adaptive Dynamics → Structured Behaviour in the Actual Environment → Repeated Evidence Across Time and Conditions → Integrated Behavioural Profile → Observer-Level Attribution: Intelligence
这样做的好处,是每一层都可以单独检验,而不是把所有问题都塞进“智能”一个词里。
为什么必须跨时间看?
如果只看一个瞬间,很容易把已经储存的能力和真正的适应混在一起。
一个系统第一次就答对,可能因为它过去已经学会了;第一次答错、第二次明显改变,也可能暴露出另一种能力:它能让经验进入未来。
所以,智能评估如果只看一次静态表现,会漏掉一个非常重要的维度:系统是否会被自己的经历改变。
但这里也不能走到另一个极端。系统并不需要预见每个变化的长期结果,也不需要保证第二次一定成功。更现实的要求是:当新的后果已经提供了可信证据以后,系统能够让这些证据影响后来的状态和行动。
这一区分在 《适应不是预测未来:经历过一次以后,下一次应该有什么不同?》 中单独展开。
为什么这对 AI 研究重要?
一旦把这些层次拆开,很多问题就变得更可检验。
我们可以分别问:
- 强表现来自已有能力,还是交互中的真实适应?
- 一次经验有没有改变之后的行为,还是只暂时留在当前上下文?
- 这种变化能不能跨交互周期保存?
- 环境改变以后,原有能力是否仍然适用?
- 系统用到的关键能力来自自身组织,还是外部工具、隐藏提示或人类 operator?
- 同样的任务下,一个组织化系统是否真的产生了单节点难以解释的系统层能力?
这些问题比一个总分更接近解释。
Connection Theory 当前的工作立场因此可以压缩成一句话:
“智能”可以继续作为一个有用的宏观行为描述;真正需要科学解释的,是哪些因果组织、能力保存方式和适应性动力学产生了这些行为。