邱懿武/智能体的社会科学/S00 · 总论

S00 · 总论主篇

当行动者不再只是人类

第 2 / 9 篇 · 约 16 分钟 · v2 初稿

一、技术改变不了世界,制度才决定技术去向何处

1954年,英国生物化学家李约瑟出版了《中国的科学与文明》第一卷。这套书他写了一辈子,系统梳理了中国古代的科学技术成就。但他越写,越困惑于一个问题:中国在唐宋明时期的技术积累远远领先于同时期的欧洲,按理说,工业革命应该首先发生在中国——但没有,它发生在18世纪的英国。

这个问题后来被称为“李约瑟难题”。各种解释都有,但李约瑟自己最终倾向的判断,可以浓缩成一句话:先进的技术不等于生产力的释放,生产力的释放需要对的制度。中国古代有技术,但缺一批“技术之外的东西”——保护发明者的产权制度、鼓励冒险的商业文化、自由交流的学术共同体、把发明变成商品的市场。瓦特改良了蒸汽机,但让蒸汽机改变世界的,是他背后的专利法、投资人、工厂和市场。

我用这个故事开场,是因为今天的 AI 正在以惊人的相似度重演它——只是速度快了几百倍,而大多数人的注意力还停在技术本身:模型有多强、能做什么、会不会出错。技术提供可能性,制度决定可能性通向哪里。真正的战场在制度层,而制度正处在还没固化、还改得动的窗口期。

所以这个系列研究的不是 AI 的能力,而是它进入社会之后,规则要怎么重写。要回答这个问题,得先看清一件事:我们的社会科学,建立在什么前提上。

被忽略的隐形基础设施——蒸汽机神庙图示四根社会制度支柱

二、知识体系都有一个从不说出口的前提

每一套知识体系,都有一批它从来不说出口的前提——不是因为这些前提不重要,恰恰相反,是因为它们太基础了,基础到生活在这个知识体系里的人根本感受不到它们的存在,就像鱼感受不到水

经济学有一个这样的前提:资源是稀缺的,因此需要配置,因此产生价格,因此有市场。政治学有一个:权力倾向于扩张,因此需要被约束。法学有一个:行为产生责任,责任可以被追溯到具体的主体。

但这些学科还有一个更深的、被所有具体前提共同依赖的隐藏前提,那就是:行动者是人类

这个前提从来不需要被说出来,因为在智能体出现之前,它从来没有被真正挑战过。公司作为“法人”出现,是一个重要的扩展,但公司背后始终有人,法律追责的终点始终是具体的人。国家、机构、跨国资本——无论形式多复杂,追到底都是人在做决定,人在承担后果。

智能体正在第一次真正地动摇这个前提。当一个系统以行动者的方式在社会里运作——做推荐、做判断、影响结果——但它背后的责任链条无法被清晰地追溯到任何一个具体的人做出的任何一个具体的决定,“行动者是人类”这个假设就开始了真正意义上的松动。

开裂的大理石柱:一切学科的隐秘前提「行动者是人类」正在动摇

三、三个具体的假设,三个具体的裂缝

“行动者是人类”这个大前提,可以拆成三个更具体的假设。理解这三个假设,是理解整个体系的钥匙。

假设一:行动者有情感,因此可以被激励。经济学里的“理性人”有欲望和偏好;管理学里的“员工”需要被激励和认可;政治学里的“选民”有利益需要被满足。所有这些理论的运作,都依赖“被管理的对象有内在的欲望结构”。智能体没有欲望——或者更准确地说,我们不知道它有没有,也没法确认。当激励手段失效,用什么让一个系统稳定地朝你想要的方向行动?目前最接近答案的东西是更精确的定义、更清晰的边界、更严格的评估——用结构约束替代动机引导。而管理学的大多数工具,是为动机引导设计的。

假设二:行动者会死,因此责任和知识都有自然的边界。因为人会死,知识产权有保护期,遗嘱制度有意义,代际更替让文化传承成为必须认真对待的事。“死亡”为一切行为提供了收束点,也为责任提供了最终的归宿。智能体没有这个收束点:一个版本可以被关闭,但能力可以被复制、继承、无限迭代。当一个智能体两年前的判断在今天产生后果,而它已经迭代了十几个版本——“行为主体是否还存在”这个问题,现有法律体系给出的是沉默

假设三:行动者的认知能力有限,且局限的方式与人类相似。信息不对称、有限理性、正当程序——这些理论成立,是因为人类的认知局限相对一致:我们都会累,都会分心,都会在复杂情境下犯类似的错。智能体的认知特征和人类是非对称的:它能不疲惫地处理海量信息,却会非常自信地给出错误答案;它失效的方式,和人类失效的方式完全不同。为人类认知局限设计的制度,放到它身上,就像用公路交通规则来管理飞行器

从“工具”到“新物种”的范式转移——AI工具社会与新型社会的左右对比
纯人类社会从未面对过的三种摩擦:组织重构、责任与产权迷失、共识危机

四、把三条裂缝拧成一股绳:三位一体被拆开了

这三个假设看起来分属三个话题:激励、法律、认知。但把它们并排放在一起,会看出一个共同的形状——

现代社会的全部制度,其实都默认了一件事:做事的、拿主意的、出了错兜底的,是同一个人。

你自己开车,自己决定超不超车,撞了自己负责。你开公司,自己拍板,亏了自己认。哪怕是雇人干活,员工做事、老板担责,中间也有一整套劳动合同和问责链条把两者缝在一起。行动、判断、担责,三位一体——这件事太天经地义了,以至于没有一门学科觉得需要把它写下来。我把它叫作同一性公理,这个体系的 A1。前面那三个假设,其实是它的三个侧面:担责的人有欲望(所以激励有用),担责的人会死(所以责任能收束),拿主意的人和担责的人共用同一副脑子(所以问责问得到点子上)。

智能体做的事情,是把这个三位一体拆开了:行动可以交出去,判断可以交出去,但担责跟不过去。每一门学科被击中的地基,都是这次拆分在那门学科里的具体表现。

说到这里,需要把这个体系研究的对象说得再准一点。我说的智能体行动者,指的是:能够行动、能够拿主意,但不承担后果、不会死、没有自身利益的行动者。三个“不”就是判据(体系的 A0)。这同时也划出了边界:如果一个系统还需要人逐项审批才能动,或者只提供信息不做选择,或者它的运营方和它绑在一起担责、出了事完全追得到人——那它还不算这个体系意义上的智能体行动者,旧制度完全够用,不需要这套新学问

最后还有一条底线,体系的 A2:责任只能由人承担,意义只在人身上发生。判断可以交出去,执行可以交出去,甚至“判断这个判断做得好不好”也可以部分交出去——但有两样东西交不出去。一样是“做错了由谁疼”:智能体不会疼,罚它没有意义。另一样是“这件事为什么值得做”:智能体没有“值得”。这条底线是整个体系的锚。往后你会看到,所有制度重写的方向,说到底就一句话:判断大规模交出去之后,把责任和意义重新安放到人身上。

五、这个体系的基本单元:一次委托

物理学有原子,经济学有交易。一个想成为体系的学问,需要一个基本单元——所有大问题都能拆到它,所有结论都能从它搭起来。

这个体系的基本单元,是一次委托:一个判断点,从人交给智能体的那层关系。

注意,交出去的是判断,不是任务。让 AI 排版周报,是任务外包,没什么新鲜的;让 AI 给客户定报价、筛掉一半简历、决定给哪个学生什么难度的题——这是判断的委托,因为做错了,有人要担责。“做错了有人担责”就是判断点的判据。

一次委托拆开看,有六个要素:判断点(交出去的到底是哪个“做错了有人担责的事”)、让渡程度(判断权交了多少——AI 只供参考,还是人机共判,还是基本托管)、授权契约(边界和标准写下来了吗,哪些事必须人点头)、保留权(人还能不能推翻它,推翻的通道还在不在)、责任残留(交出去之后,做错了谁疼——这一项不允许为空,这是 A2 的直接推论)、反馈回路(委托的质量有没有人验收、验收的结果有没有用来校准)。

委托还有三个尺度。一个人把一个判断交给一个智能体,是单次委托;A 交给 B、B 再转给 C,两层以上转手,就成了委托网络,意图会在每次转手中丢掉一点;一个社会里全部委托关系的分布,以及“谁有权定委托的规则”,是委托社会的尺度。后面的篇章会在这三个尺度之间切换,切换时我会说明。

六、一次委托的一生:七个环节

把一次委托从生到死走一遍,会经过七个环节。每个环节,都对应一个必须回答的问题;每个环节缺了位,都会出一种叫得出名字的事故

① 对象——交出去的到底是什么?分不清判断和任务,就会把判断当任务外包,最后酿成“无人做出的决定”。② 条件——凭什么敢交?信任从哪来,谁来认证。③ 契约——授权怎么写清楚?授权模糊的地方,就是失控从“合理”开始的地方。④ 保留——人留下什么权力?不被行使的否决权会退化成橡皮图章。⑤ 失败——搞砸了算谁的?这一环缺位的名字,就是“责任缺口”。⑥ 侵蚀——长期用下来,人会怎样?判断力会退化,差距会拉大,而且是温水煮蛙式的。⑦ 规则——谁来定以上这一切的规则?定规则本身,就是这个时代的立法权。

这七个环节,就是后面七篇的分工表:经济学篇管①②(交出去的是什么、凭什么值钱),管理学篇管③(契约怎么写),政治学篇管④和⑦(人留什么权、谁定规则),法学篇管⑤(搞砸了算谁的),社会学篇管⑥和⑦(隐性代价和规范来源),教育学篇管⑥里最深的那一层(什么东西绝对不能交出去)。网络篇不占环——它研究当委托层层转手时,这七个环节会一起变形。

你可以检验这个结构:试着删掉任何一环,看看会不会出事故。删得掉,算我结构冗余;删不掉,说明这是一个环环咬合的体系,而不是一份话题清单。

智能体如何推倒三大基石假设?——动机寿命认知三维度传统与新变量对照表

七、这套问题不是凭空冒出来的

需要说明的是:这些问题不是我第一个碰到的,几支学术传统早就在各自的角度上碰过它们。

经济学里的委托代理理论研究了半个世纪“老板和经理人”之间的委托——但它的全部精巧设计,都建立在“代理人有自己的利益、会偷懒、要用激励对付”上。智能体没有自己的利益,问题正好反过来:不是怎么防它偷懒,而是怎么给一个没有利益的行动者划边界。法学界从 Matthias(2004)开始正式讨论责任缺口(responsibility gap),欧盟也认真辩论过要不要给智能系统“电子人格”——本体系第五篇(法学)直接接在这条文献线上,“责任缺口”这个词就是从那里来的。科学技术学(STS)则一直在研究技术和社会如何互相塑造。

这个体系不打算替代它们。它做的事情是:站在“委托”这个基本单元上,把这几支各管一角的讨论,放进同一条推导线里——从公理,推到单元,推到七个环节,推到每门学科的具体命题。原来散落各处的问题,在这条线上互相成了对方的上下游。

八、为什么是现在

有一种常见的想法:等问题成熟了、答案清晰了,再认真思考。这在很多情况下是明智的,但有一类问题不适用——一旦固化就很难改变的结构性问题。制度就是这种问题:成型期是可塑的,固化之后,改变的代价会以数量级上升。

我们现在就处在窗口期。智能体正在快速进入真实的社会应用,而围绕它的规则——法律、管理范式、市场规范——还在成型。这个成型过程正在被大量“局部的、一事一议的”决策填满,而做这些决策的人,大多没有意识到自己做的不只是技术选择或商业选择,而是制度选择。李约瑟难题告诉我们:窗口期的选择,几百年后依然可见。

把这些制度选择背后的问题说清楚,让更多人意识到这里有一批必须认真对待的结构性问题——这是这个系列想做的事。不只是让问题可见,而且给出可以被检验、也可以被推翻的回答。

尾声:技术提供可能性,制度决定可能性通向哪里——柔性绸带穿过刚性栅格

九、回到那三秒钟的沉默

序章一里我讲过一件事:在浙大给 MBA 学员上课,讲到企业部署智能体,一个学员举手问——“如果智能体做了一个错误决策,导致客户蒙受损失,责任在谁?”全场安静了大概三秒钟。我当时给了一个自己都不满意的回答,因为它是用几个不合身的旧框架拼出来的。

现在,这个体系可以正面回答它了。

用这个体系的语言重新念一遍,这个问题其实在问:这次委托的“责任残留”落在谁身上?答案分三步。第一,责任不在智能体身上,永远不在——它不会疼,罚它没有意义,这是底线公理 A2 说死的。第二,责任也不会因此消失——它只会悬空。悬空不等于“没有责任”,而是“出了事找不到人”,这恰恰是七个环节里第⑤环缺位的事故,法学篇叫它责任缺口。第三,所以正确的做法不是出了事再找,而是事前写清楚:在把报价、筛选、决策交给智能体之前,把“做错了谁担”写进授权契约——责任残留不允许为空。

我当年的回答之所以不合身,是因为手里的每一个旧框架都默认“做事的人自己担责”,没有一个框架是为“行动和担责分了家”的世界设计的。这个体系,就是给那三秒钟沉默补的一堂课。

接下来七篇,按七个环节逐一进入。如果你想先看骨架,去架构图一条线看完;如果你想马上上手,委托体检器可以在十分钟内体检你手上正在进行的任何一次委托。

构建“智能体社会科学”的六大维度——六边形环状排布六个学科维度
PDF 配套研究报告总论篇 下载 →
← 返回八学科总览