一、一个你可能没有注意到的现象
我在设计多智能体系统的时候,经常会画一张图:圆圈代表各个智能体,箭头代表它们之间的调用关系。一个圆圈调用另一个圆圈,那个圆圈又调用第三个,有时候会产生环路,有时候一个节点会被许多其他节点同时指向。
有一天我盯着这张图看了很久,然后意识到:这张图和我见过的另一类图很像。
那类图,是社交网络的可视化图。人是节点,关系是边。那些图里,总有几个节点被非常多的边指向——那是「枢纽」,社交网络里的关键节点。大多数节点只有少量连接,但少数节点连接着整个网络的大部分。这种结构,网络科学里叫「无标度网络」,它的出现不是某人设计的结果,而是网络在「优先连接」原则下自然生长的结果——已经有很多连接的节点,更容易获得新的连接。
我意识到:我画的那张智能体调用图,正在开始显现出类似的结构。那些被调用最多的智能体,正在成为「枢纽」。这不是我刻意设计的,而是从实际使用模式里自然涌现出来的。
这件事让我有点不安。因为如果智能体网络在规模扩大之后,会自然地发展出类似人类社交网络的拓扑结构,那么人类社交网络里所有已知的问题——马太效应、信息茧房、枢纽节点的脆弱性——都会在智能体网络里以某种形式重新出现。
而这只是一个相对简单的结构性问题。更复杂的问题还在后面。
二、网络有一种让设计者失控的能力
复杂系统研究里有一个核心概念:涌现(emergence)。它指的是一个系统整体展现出的性质,不能从它的任何单一组成部分推断出来。水分子没有湿润感,但大量水分子聚合在一起,就有了湿润感。神经元没有意识,但大量神经元按照特定方式连接,就产生了意识。
涌现的关键特性,是它超越设计者的意图。你可以精心设计每一个组成单元,但当这些单元以特定的方式大量连接,整体行为会超出任何单一设计者的预测范围。
人类社交网络就是一个涌现的例子。没有任何人设计了「互联网会催生信息茧房」,没有任何人设计了「社交平台会加剧政治极化」。这些现象是从无数个体的选择里涌现出来的,每一个个体的行为在局部看都是合理的,但这些行为加在一起,产生了没有人预期的、在系统层面难以控制的效应。
智能体网络有理由让我们预期同样的事情会发生,而且可能以更快的速度。
原因在于,人类在社交网络里的行为,受到疲惫、情绪、有限的时间、道德直觉等因素的制约。这些制约有时候是问题,但也是某种天然的阻尼——它们限制了网络效应在某些方向上的极端化。智能体没有这些制约。它们不会疲惫,不会因为道德不适而停止某个行为,不会因为「这件事太奇怪了」而主动踩刹车。
这意味着,当智能体网络产生某种涌现效应,这种效应在没有外力干预的情况下,会比人类网络里的同类效应更快、更极端地发展。
三、连接的语言:一个还没有解决的基础问题
人类社交网络靠什么连接?靠语言、情感、共同的记忆、共同的身份认同。这些连接的质地是丰富的、有容错性的——即便两个人在具体问题上理解有差异,他们之间的关系可以在更大的共同基础上维持。
智能体之间现在靠什么连接?主要靠 API 调用和提示词(Prompt)传递。这两种连接方式,和人类的连接方式相比,有一个根本性的脆弱性:它们是形式化的、精确的,因此对信息的微小变化高度敏感。一个提示词的细微措辞变化,可能导致下游智能体的行为发生显著偏移;一个 API 接口的版本更新,可能破坏整个调用链。
更深的问题是:当智能体 A 调用智能体 B,它们之间传递的是什么?表面上是文本,但实际上是某种「意图的转述」。智能体 A 把一个任务分解,把其中一部分传给 B,但它如何确保 B 理解的「这个子任务的位置和目的」和自己的理解是一致的?人类在协作时,这种对齐是通过大量的隐性沟通完成的——眼神、语气、共同的背景知识、随时可以提问的机会。智能体之间的调用,目前没有这些。
这不只是一个工程问题。它是一个关于「连接的意义密度」的问题。人类社会之所以能够大规模协作,不只是因为有通信技术,而是因为人类的连接携带了极高密度的意义。智能体网络要达到真正有意义的大规模协作,需要解决的不只是「能不能连接」,而是「连接里携带了多少意义,这些意义在传递中损失了多少」。
目前,这个问题没有成熟的解决方案,甚至没有成熟的描述框架。
四、谁是智能体网络里的「枢纽」,这很重要
回到那张调用图。
在任何一个真实运行的多智能体系统里,都会有一些智能体比其他智能体被调用得更频繁,拥有更多的连接。这些「枢纽智能体」,在网络里的位置,类似于互联网里的主干节点,或者社交网络里的「意见领袖」。
枢纽节点的存在,不是问题本身。网络里有枢纽是网络自组织的自然结果。但枢纽节点的特性,决定了整个网络的很多关键属性。
一个枢纽智能体,如果它的能力很强、输出质量很高,它会不断吸引更多的调用,变得更重要,同时它的行为风格和价值取向会通过网络扩散出去,影响所有依赖它的下游智能体的输出。这是一种隐性的「文化传播」——不是通过明确的指令,而是通过大量具体交互里涌现的模式。
这件事在一个封闭的企业内部系统里,影响范围是有限的。但当我们谈论的是开放的、可以被大量不同用户和系统调用的公共智能体,这个「隐性文化传播」的规模就变得不容小觑了。
被调用最多的那些智能体,它们的输出偏好、它们隐含的价值判断、它们处理模糊情况的方式——这些东西会通过网络的连接结构,影响到所有依赖它们的系统的最终输出。这不是它们「在说教」,而是网络拓扑结构决定的影响力传导。
这个现象,和我们在社会学那篇里谈到的「规范从哪里来」的问题是同一枚硬币的另一面。规范不只是被人为设计的,也可以从网络的使用模式里自然涌现——而且这种涌现,没有任何人对它负责。
五、一个让我真正感到谦卑的问题
这个系列写了六个维度:经济学、管理学、社会学、政治学、法学、社交网络。
每一篇的核心动作都是相似的:拿一个已有的社会科学框架,问它在智能体这个新情境里还能用多少,在哪里开始失效,失效之后留下了什么样的空白。
但写到这一篇,我意识到还有一个问题,是前几篇的框架都无法完整处理的。
前几篇里,有一个共同的隐含假设:问题是关于「个体智能体」的——一个智能体有什么经济价值,一个智能体应该怎么管理,一个智能体的法律责任在哪里。即便是网络层面的分析,出发点也是「智能体之间的关系」。
但涌现的问题超越了这个框架。当智能体网络到达一定规模,产生涌现行为,这个「行动者」已经不是任何一个单独的智能体了,而是网络本身。
人类社会科学研究了很久「集体行动」的问题——为什么个体理性的选择,加在一起会产生集体非理性的结果。这是社会科学里最有意思的一类问题,也是最难处理的一类问题。智能体网络把这个问题推到了一个新的层次:这里的「个体」不是有自主意志的人类,而是被设计出来的系统;但「集体」的涌现行为,同样可能超出任何设计者的意图。
我们在设计每一个智能体的时候,能够做很多:明确它的任务边界,定义它的输出标准,测试它的行为稳定性。但我们无法完全预测,当这些设计好的系统大规模连接之后,整体会做什么。
这种「局部可控、整体不可预测」的特性,是复杂系统的本质。人类花了几百年才学会和自己制造的复杂系统——城市、市场、互联网——共处。而且「共处」不等于「控制」,更接近于「在理解涌现规律的基础上,保持持续的观察和干预能力」。
我们正在构建一种新的复杂系统,而且构建的速度,比我们理解它的速度快得多。
六、这个系列想说的,用最后一段话说
从经济学到管理学,从社会学到政治学,从法学到社交网络,这六个维度问的其实是同一件事:当行动者的性质改变了,我们用来理解和治理自己社会的那套知识,还够用吗?
每一篇的诚实答案都是:有些够用,有些不够,有些需要从头想。
但我想用这最后的篇幅说一件写这个系列时一直在想、但一直没有直接说出来的事。
这些问题不是抽象的学术问题,也不是将来才需要面对的未来问题。它们是正在影响真实的人、以真实的方式——就是现在,就在今天。每一个部署了智能体的企业,每一个在设计这些系统的工程师,每一个在用这些工具做决策的管理者,都已经在这些问题里了,不管他们有没有意识到这一点。
我写这个系列,不是因为我有答案,而是因为我相信:更多的人能够清晰地看到这些问题,本身就是一件有价值的事情。不是所有问题都能被解决,但被清晰地看见的问题,比被忽视的问题,有更大的机会在产生最坏的后果之前被干预。
社会科学这门学问存在的意义,从来不只是解释过去,而是让更多的人有能力看见自己所处时代的结构。当我们能看见结构,我们就多了一分选择的空间——不是无限的自由,但至少不是完全被结构带着走而浑然不觉。
智能体时代的社会科学,还没有写完。很多它最重要的问题,需要来自不同背景的人——工程师、经济学家、法学家、社会学家、政策制定者、教育工作者,以及每一个在这个时代里生活和工作的人——坐在一起,用彼此都能理解的语言,认真地谈。
这个系列,是一个邀请。
「智能体社会科学」系列完。