一、一个你可能没有注意到的现象
我在设计多智能体系统的时候,经常会画一张图:圆圈代表各个智能体,箭头代表它们之间的调用关系。一个圆圈调用另一个圆圈,那个圆圈又调用第三个,有时候会产生环路,有时候一个节点会被许多其他节点同时指向。
有一天我盯着这张图看了很久,然后意识到:这张图和我见过的另一类图很像。
那类图,是社交网络的可视化图。人是节点,关系是边。那些图里,总有几个节点被非常多的边指向——那是“枢纽”,社交网络里的关键节点。大多数节点只有少量连接,但少数节点连接着整个网络的大部分。这种结构,网络科学里叫“无标度网络”,它的出现不是某人设计的结果,而是网络在“优先连接”原则下自然生长的结果——已经有很多连接的节点,更容易获得新的连接。
我意识到:我画的那张智能体调用图,正在开始显现出类似的结构。那些被调用最多的智能体,正在成为“枢纽”。这不是我刻意设计的,而是从实际使用模式里自然涌现出来的。
这件事让我有点不安。因为如果智能体网络在规模扩大之后,会自然地发展出类似人类社交网络的拓扑结构,那么人类社交网络里所有已知的问题——马太效应、信息茧房、枢纽节点的脆弱性——都会在智能体网络里以某种形式重新出现。
而这只是一个相对简单的结构性问题。更复杂的问题还在后面。

二、先立论:到了这一篇,行动者不再是智能体,是网络
这个系列前面几篇有一个共同的隐含假设:讨论的对象是一个智能体——一个智能体值多少钱、一个智能体该怎么管、一个智能体出了事算谁的。即便谈到关系,出发点也仍然是“智能体之间“。
写到这一篇,我必须承认那个假设在这里失效了。
当智能体网络到达一定规模,产生出没有人设计过的整体行为,那个真正在行动的东西,已经不是其中任何一个智能体,而是网络本身。你可以逐一检查每个节点,发现它们全都在正常工作、全都在自己的授权范围内——然后整体做出了一件谁都没打算做的事。
v1 写到这里的时候,我把这个发现放在了倒数第二节,当作一句自我批评。这一版把它提到开头,因为它不是一句谦辞,它是这一篇的立论。如果行动者变成了网络,那么前面所有关于“一次委托”的分析,都必须先做一次尺度上的转换才能继续用——而这正是本篇要做的事。

三、转委托:委托的第二种形状
先把这个尺度说清楚。
前面几篇讨论的是单次委托:一个人,把一个判断,交给一个智能体。链条很短,责任落点清晰——虽然经常没写下来,但至少找得到。
而网络里发生的是另一种形状:A 把判断交给 B,B 又把其中一部分转交给 C,C 再调用 D。这叫转委托。它不是“更多的委托”,它是一种性质不同的委托。
为什么性质不同?因为在单次委托里,让渡者和承接者是面对面的:我知道我把什么交给了谁,我可以验收,我可以推翻。而在转委托里,最初那个人和最终执行的那个节点之间,隔着若干层他既看不见、也没有授权过的中间环节。
这产生了两个在单次委托里根本不存在的问题。
第一,意图会在转手中损耗。A 交给 B 的时候,附带了一大堆没说出口的语境——为什么做这件事、什么算做好了、什么情况下要停下来问人。B 转给 C 的时候,这些语境不会自动跟着走,跟着走的只是一段被压缩过的指令。转到第三手,最初那个“为什么”通常已经完全蒸发了。
第二,责任会在转手中稀释。单次委托的责任残留至少还找得到人——就是那个交出判断的人。但在一条五层的调用链上,每一层都可以诚实地说“我只是执行了上游传下来的要求”。每一层都没有说谎,而整条链上没有一个人对最终结果负责。
所以本系列的尺度切换规则是:只要委托出现两层以上的转手,就必须从“单次委托”切换到“委托网络”来分析。用单次委托的框架去看一条五层调用链,得到的结论会系统性地偏乐观——因为那个框架默认了一件在网络里根本不成立的事:让渡者知道自己让渡了什么。
四、网络有一种让设计者失控的能力
复杂系统研究里有一个核心概念:涌现(emergence)。它指的是一个系统整体展现出的性质,不能从它的任何单一组成部分推断出来。水分子没有湿润感,但大量水分子聚合在一起,就有了湿润感。神经元没有意识,但大量神经元按照特定方式连接,就产生了意识。
涌现的关键特性,是它超越设计者的意图。你可以精心设计每一个组成单元,但当这些单元以特定的方式大量连接,整体行为会超出任何单一设计者的预测范围。
人类社交网络就是一个涌现的例子。没有任何人设计了“互联网会催生信息茧房”,没有任何人设计了“社交平台会加剧政治极化”。这些现象是从无数个体的选择里涌现出来的,每一个个体的行为在局部看都是合理的,但这些行为加在一起,产生了没有人预期的、在系统层面难以控制的效应。
智能体网络有理由让我们预期同样的事情会发生,而且可能以更快的速度。
原因在于,人类在社交网络里的行为,受到疲惫、情绪、有限的时间、道德直觉等因素的制约。这些制约有时候是问题,但也是某种天然的阻尼——它们限制了网络效应在某些方向上的极端化。智能体没有这些制约。它们不会疲惫,不会因为道德不适而停止某个行为,不会因为“这件事太奇怪了”而主动踩刹车。
这意味着,当智能体网络产生某种涌现效应,这种效应在没有外力干预的情况下,会比人类网络里的同类效应更快、更极端地发展。



五、连接的语言:一个还没有解决的基础问题
人类社交网络靠什么连接?靠语言、情感、共同的记忆、共同的身份认同。这些连接的质地是丰富的、有容错性的——即便两个人在具体问题上理解有差异,他们之间的关系可以在更大的共同基础上维持。
智能体之间现在靠什么连接?主要靠 API 调用和提示词(Prompt)传递。这两种连接方式,和人类的连接方式相比,有一个根本性的脆弱性:它们是形式化的、精确的,因此对信息的微小变化高度敏感。一个提示词的细微措辞变化,可能导致下游智能体的行为发生显著偏移;一个 API 接口的版本更新,可能破坏整个调用链。
更深的问题是:当智能体 A 调用智能体 B,它们之间传递的是什么?表面上是文本,但实际上是某种“意图的转述”。智能体 A 把一个任务分解,把其中一部分传给 B,但它如何确保 B 理解的“这个子任务的位置和目的”和自己的理解是一致的?人类在协作时,这种对齐是通过大量的隐性沟通完成的——眼神、语气、共同的背景知识、随时可以提问的机会。智能体之间的调用,目前没有这些。
这不只是一个工程问题。人类之所以能大规模协作,不只是因为有通信手段,而是因为人与人之间的连接携带了大量说不出口、却确实在起作用的东西:共同的背景、随时可以追问的机会、看见对方犹豫时的那一秒停顿。智能体之间的调用,目前把这些全部丢掉了,只留下文本。
所以真正的问题不是“能不能连上”,而是“连接里携带了多少东西,这些东西在传递中丢了多少”。

六、委托保真度:意图在每次转手里会掉多少
上一节结尾那个问题,需要一个能测的概念才能往下问。v1 用的词是意义密度。现在我要把这个词废掉。
废掉的理由很简单:它听着有分量,但它测不了。“这条连接携带了多少意义”——没有任何一个人能给出操作方法。一个测不了的概念,不管说起来多顺口,都只能待在演讲稿里,进不了研究。
换成一个能测的:委托保真度——最初那个判断的意图,在经过若干层转手之后,还剩下多少。
它可以这样测。给出一个原始委托,写清四件事:目标、约束、什么算做好了、什么情况必须停下来问人。让它经过 N 层转手,然后在最末端拿到实际执行的指令,跟原始委托逐条比对:目标还在吗?约束还剩几条?“什么算做好”还在吗?至于“什么时候该停下来问人”——这一条通常第一个消失。剩下的比例,就是这条链的委托保真度。
这个测法很粗糙,但它有三个好处:可以做实验(搭一条多层调用链跑就行)、可以横向比较(哪种协议损耗小)、而且会给出一个数——一个可以被后来者拿去证明我错了的数。
我的猜测是:损耗不是线性的,是复利式的。每层留下八成,四层之后只剩四成。而实际情况可能比这更糟,因为最先掉的往往是约束条件(那些“不要做什么”的部分),不是目标本身。于是长链最典型的失败形态是:目标被忠实地执行了,而所有的刹车都在路上掉光了。
这是本篇最想请人来检验的东西。它需要的不是哲学思辨,是一组多智能体实验。

七、谁是智能体网络里的“枢纽”,这很重要
回到那张调用图。
在任何一个真实运行的多智能体系统里,都会有一些智能体比其他智能体被调用得更频繁,拥有更多的连接。这些“枢纽智能体”,在网络里的位置,类似于互联网里的主干节点,或者社交网络里的“意见领袖”。
枢纽节点的存在,不是问题本身。网络里有枢纽是网络自组织的自然结果。但枢纽节点的特性,决定了整个网络的很多关键属性。
一个枢纽智能体,如果它的能力很强、输出质量很高,它会不断吸引更多的调用,变得更重要,同时它的行为风格和价值取向会通过网络扩散出去,影响所有依赖它的下游智能体的输出。这是一种隐性的“文化传播”——不是通过明确的指令,而是通过大量具体交互里涌现的模式。
这件事在一个封闭的企业内部系统里,影响范围是有限的。但当我们谈论的是开放的、可以被大量不同用户和系统调用的公共智能体,这个“隐性文化传播”的规模就变得不容小觑了。
被调用最多的那些智能体,它们的输出偏好、它们隐含的价值判断、它们处理模糊情况的方式——这些东西会通过网络的连接结构,影响到所有依赖它们的系统的最终输出。这不是它们“在说教”,而是网络拓扑结构决定的影响力传导。
这个现象,和我们在社会学那篇里谈到的“规范从哪里来”的问题是同一枚硬币的另一面。规范不只是被人为设计的,也可以从网络的使用模式里自然涌现——而且这种涌现,没有任何人对它负责。


八、七环在网络上,是怎么变形的
这一篇不认领委托生命周期里的任何一环——因为它研究的是那七环在网络尺度上会怎样一起变形。逐环过一遍,能看得很清楚:
①对象——单次委托里,你至少知道自己交出去的是什么。转委托里,最初那个判断被逐层拆解,到了下游已经变成一堆看不出来源的子任务。没有人再持有“这件事整体是什么”的图景。
②条件——你信任的是 B,可实际干活的是 C 和 D,而你从来没有评估过它们。信任可以被转授,可靠性不能。
③契约——你和 B 签的契约,约束不到 D。中间每一次转手,都是一次没有你签字的再授权。
④保留——你的推翻权只对 B 有效。当问题出在第四层,你甚至不知道该推翻什么。保留权在链条上是不传导的。
⑤失败——这是最严重的变形。单次委托的责任缺口是“找不到规则”;转委托的责任缺口是“每个人都有规则,而且每个人都合规”。所有人都做对了自己那一段,结果整体错了——这种失败,在现行的任何归责框架里都无从下手。
⑥侵蚀——链条越长,越没有人有能力验收整体。于是验收退化成“我这一段没出错”。整体的验收回路,在网络里是默认缺失的。
⑦元层——谁定规则?在网络里,规则不是被谁写下的,是被调用频率投出来的。被调用最多的那些节点,它们处理模糊情况的方式会顺着拓扑扩散,变成事实上的行业惯例。这是一种没有立法者的立法——社会学篇和政治学篇讲的规范集中,在网络这一层有了它的物理机制。
七环全都变形,而且变形的方向是一致的:每一环都在往“无主”的方向滑。这就是为什么本篇不能只当作前面几篇的补充章节——网络不是委托的一个应用场景,它是委托的另一种物态。
九、一个让我真正感到谦卑的问题
把七环逐个过完之后,需要停下来说一句老实话:本篇给出的框架,处理的仍然是“结构”,不是“涌现”。
转委托、保真度、七环变形——这些都还是在描述一张可以被画出来的网络。但网络真正让人不安的地方,恰恰是那些画不出来的部分。
人类社会科学研究了很久“集体行动”的问题——为什么个体理性的选择,加在一起会产生集体非理性的结果。这是社会科学里最有意思的一类问题,也是最难处理的一类问题。智能体网络把这个问题推到了一个新的层次:这里的“个体”不是有自主意志的人类,而是被设计出来的系统;但“集体”的涌现行为,同样可能超出任何设计者的意图。
我们在设计每一个智能体的时候,能够做很多:明确它的任务边界,定义它的输出标准,测试它的行为稳定性。但我们无法完全预测,当这些设计好的系统大规模连接之后,整体会做什么。
这种“局部可控、整体不可预测”的特性,是复杂系统的本质。人类花了几百年才学会和自己制造的复杂系统——城市、市场、互联网——共处。而且“共处”不等于“控制”,更接近于“在理解涌现规律的基础上,保持持续的观察和干预能力”。
我们正在构建一种新的复杂系统,而且构建的速度,比我们理解它的速度快得多。


十、本篇留下的命题与招题
本篇留下一条命题,而且是全部十条里最容易被实验推翻的一条——这是它的优点,不是缺点。
委托链每增加一层转手,意图保真度按可测的比例衰减。
检验方式上面已经写清楚了:搭一条多层调用链,给定原始委托,在末端逐条比对目标、约束、验收标准、中止条件的存活率。做几十组,就能看出衰减是线性的、复利的,还是根本不衰减。
如果它根本不衰减,本篇的核心担忧就是错的——那会是一个很好的消息,我乐意认错。但在没有人做过这个实验之前,工程实践里那种“多接几层没关系”的默认乐观,是没有依据的。
这也是本系列公开招募的招题之一:委托保真度的多智能体实验。它不需要庞大资源,一个研究组、几周时间就能启动,而它会给这个领域第一个可以互相比较的数。
十一、这个系列想说的,用最后一段话说
从经济学到管理学,从社会学到政治学,从法学到社交网络,这六个维度问的其实是同一件事:当行动者的性质改变了,我们用来理解和治理自己社会的那套知识,还够用吗?
每一篇的诚实答案都是:有些够用,有些不够,有些需要从头想。
但我想用这最后的篇幅说一件写这个系列时一直在想、但一直没有直接说出来的事。
这些问题不是抽象的学术问题,也不是将来才需要面对的未来问题。它们是正在影响真实的人、以真实的方式——就是现在,就在今天。每一个部署了智能体的企业,每一个在设计这些系统的工程师,每一个在用这些工具做决策的管理者,都已经在这些问题里了,不管他们有没有意识到这一点。
我写这个系列,不是因为我有答案,而是因为我相信:更多的人能够清晰地看到这些问题,本身就是一件有价值的事情。不是所有问题都能被解决,但被清晰地看见的问题,比被忽视的问题,有更大的机会在产生最坏的后果之前被干预。
社会科学这门学问存在的意义,从来不只是解释过去,而是让更多的人有能力看见自己所处时代的结构。当我们能看见结构,我们就多了一分选择的空间——不是无限的自由,但至少不是完全被结构带着走而浑然不觉。
智能体时代的社会科学,还没有写完。很多它最重要的问题,需要来自不同背景的人——工程师、经济学家、法学家、社会学家、政策制定者、教育工作者,以及每一个在这个时代里生活和工作的人——坐在一起,用彼此都能理解的语言,认真地谈。
这个系列,是一个邀请。
“智能体社会科学”系列完。

