邱懿武 · 智能体的社会科学 · 序章二
略懂AI

当行动者不再只是人类

第 2 / 9 篇

一、知识体系都有一个从不说出口的前提

每一套知识体系,都有一批它从来不说出口的前提——不是因为这些前提不重要,恰恰相反,是因为它们太基础了,基础到生活在这个知识体系里的人根本感受不到它们的存在,就像鱼感受不到水。

经济学有一个这样的前提:资源是稀缺的,因此需要配置,因此产生价格,因此有市场。这个前提如此基本,以至于大多数经济学教科书在第一章就把它当作公理写下来,然后再也不去质疑它。

政治学有一个这样的前提:权力倾向于扩张,因此需要被约束,因此需要制度。这个判断渗透在几乎所有政治理论里,但真正把它当作需要论证的命题来对待的人并不多。

法学有一个这样的前提:行为产生责任,责任可以被追溯到具体的主体。整套侵权法、合同法、刑法,都建立在「行为有主体,主体可被识别,主体可被追责」这条线上。

但这些学科还有一个更深的、被所有这些具体前提所共同依赖的隐藏前提,那就是:行动者是人类。

这个前提从来不需要被说出来,因为在智能体出现之前,它从来没有被真正挑战过。公司作为「法人」出现,是一个重要的扩展,但公司背后始终有人,法律追责的终点始终是具体的人。国家作为行动者,背后是政府机构,是官员,是选民——还是人。非政府组织、国际机构、跨国资本——无论形式多复杂,追到底都是人在做决定,人在承担后果。

智能体正在第一次真正地动摇这个前提。不是动摇它的表面形式,而是动摇它的内核:当一个系统以行动者的方式在社会里运作,做推荐、做判断、影响结果,但它背后的责任链条无法被清晰地追溯到任何一个具体的人做出的任何一个具体的决定——「行动者是人类」这个假设就开始了真正意义上的松动。

这不是一个遥远的哲学问题。在这个系列的后续六篇里,你会反复看到这个松动产生的具体后果:经济学里出现了稀缺性的重新定义问题,管理学里出现了激励失效问题,社会学里出现了信任机制的重建问题,政治学里出现了权力归因的模糊问题,法学里出现了责任追溯的断裂问题,社交网络里出现了涌现行为的治理问题。

这六个问题,表面上属于六个不同的领域,但它们有一个共同的根:我们的社会科学体系,是在「行动者是人类」这个前提下建立起来的,而这个前提正在被智能体以一种安静但深刻的方式动摇。

二、三个具体的假设,三个具体的裂缝

「行动者是人类」这个大前提,可以被拆解成三个更具体的假设。理解这三个假设,是理解后面六篇的概念钥匙。

假设一:行动者有情感,因此是可以被激励的。

这个假设,是整套激励理论的根基。经济学里的「理性人」有欲望和偏好;管理学里的「员工」需要被激励和认可;政治学里的「选民」和「官员」有利益需要被满足;社会学里的「个体」有归属感和身份认同的需求。这一切理论的运作,都依赖于「被管理和协调的对象,有内在的欲望结构可以被利用和引导」。

智能体没有欲望。或者更准确地说:我们不知道它有没有,而且现有的科学工具还无法给出确定的答案。它表现出来的东西有时候很像情感,但我们无法判断那是真实的内部状态,还是一种高度精确的模拟。

这个不确定性,带来了一个管理学上很实际的问题:当激励手段失效,用什么来让一个系统稳定地朝着你想要的方向行动?目前最接近答案的东西,是更精确的定义、更清晰的边界、更严格的评估——用「结构约束」来替代「动机引导」。但这两种驱动逻辑在实践上是不同的,管理学的大多数工具是为后者设计的,需要为前者重新想过。

假设二:行动者会死,因此责任和知识都有自然的边界。

这个假设比第一个更隐蔽,但在法律和社会制度设计上同样根本。

因为人会死,知识产权有保护期限——创作者死后若干年,作品进入公共领域。因为人会死,遗嘱制度才有意义;因为组织会解散,法律要求清算;因为有代际更替,文化传承才成为必须被认真对待的社会学议题。「死亡」和「终结」为一切行为提供了自然的收束点,也为责任提供了一个最终的归宿。

智能体没有这个收束点。一个版本可以被关闭,但能力模型可以被复制、被继承、被无限迭代。更重要的是,它的「行为历史」可以无限积累而不消散。当一个智能体两年前做出的某个判断,在今天产生了后果,而这个智能体已经经历了十几次版本迭代——「行为主体是否还存在」这个问题,现有法律体系给出的是沉默。

这个沉默,是整套现代法律体系遭遇智能体时最深的一道裂缝。不是法律不够好,而是法律的设计者,从来没有需要考虑「行为主体可能永远不会真正结束」这种情况。

假设三:行动者的认知能力有限,且局限的方式与人类相似。

经济学里的「信息不对称」,建立在「不同的人掌握不同信息,且信息传递有成本」之上。管理学里的「有限理性」,建立在「人的认知处理能力有边界」之上。法学里的「正当程序」,建立在「参与法律程序的各方,认知能力在一个大致可比的范围内」之上。

这些理论成立,是因为人类的认知局限是相对一致的——我们都受到工作记忆容量的限制,都有注意力分散的问题,都会在复杂的情境下产生认知偏误。正是这种一致性,让基于「有限认知」建立的制度设计有了普适性。

智能体的认知特征,和人类的认知局限是非对称的。它在某些维度上远超人类——可以不疲惫地处理海量信息,可以在毫秒内检索大量知识,可以高度并行地运作。但它有人类几乎完全陌生的弱点——它会非常自信地给出错误答案,它的行为会随着输入的微小变化产生不可预期的漂移,它在超出训练分布的情况下失效的方式,和人类的失效方式完全不同。

为人类认知局限而设计的制度,放到一个认知特征非对称的系统上,就像用公路交通规则来管理飞行器——不是完全没有参考价值,但关键的地方对不上。

三、一个新的社会形态,需要新的知识框架

如果只是「三个假设被动摇了」,这件事的含义可能还只是「需要修订一些理论」。但它的真实含义,比这更大。

因为这三个假设的松动,同时发生在一个更大的背景下:我们正在进入一种在结构上就不同的新型社会——人与机器深度共生的社会。

「深度共生」不是「使用工具」的升级版。使用工具意味着工具是外部的、可以被拿起来放下去的东西,人在使用工具的过程中,认知过程本身没有改变。深度共生意味着智能体已经进入了认知过程的内部——它参与了思考的形成,它影响了判断的方向,它的存在改变了「人类在这个过程中做了什么」的答案。

当认知过程本身被改变,「行动者」的意义就不再只是关于「谁在行动」,而是关于「行动是如何发生的」。这让社会科学面对的,不只是一个新的研究对象,而是研究对象的性质本身发生了变化。

历史上的社会科学,研究的是人类行动者之间的关系和结构。人机共生的社会,需要一种能够研究「人类行动者与人工行动者混合构成的社会」的社会科学。这不是对现有社会科学的简单扩展,而是需要在一些根本的地方重新提问。

具体来说,这意味着什么?

经济学需要重新思考的,是稀缺性的定义——当认知劳动的边际成本趋近于零,「资源稀缺」这个经济学的基础前提,发生了什么结构性的变化。管理学需要重新思考的,是激励的替代物——当被管理的对象没有欲望,用什么来确保系统持续、稳定、朝着正确方向运作。社会学需要重新思考的,是分层的新轴线——当认知放大能力成为一种可以被不均等分配的资源,社会分层在认知层面会产生什么新的形态。政治学需要重新思考的,是权力的新来源——当定义「什么是好的智能体」等同于制定规则,技术标准的制定就是一种新的立法权。法学需要重新思考的,是责任的追溯逻辑——当行为主体没有法律人格,当责任链条在技术层面就是弥散的,现代法律的可问责性原则如何落地。社交网络需要重新思考的,是涌现的治理问题——当大量智能体相互连接,产生任何单一设计者都未能预期的集体行为,这个「集体」的责任在哪里。

这六个问题,是这个系列接下来要逐一进入的领域。它们不是相互独立的,而是同一个根本性变化在不同截面上的显现。

四、为什么现在想这些问题,比等到答案清晰了再想更重要

有一种常见的倾向,是等到问题足够成熟、答案足够清晰的时候,才开始认真思考。这在很多情况下是明智的。

但有一类问题不适用这个策略:那些一旦固化就很难改变的结构性问题。制度的形成就是这种问题。制度在成型期是可塑的,一旦固化,改变的代价会以数量级上升。社会科学的框架也是这种问题——它们一旦形成主流范式,就会变成人们思考问题的默认路径,而不是思考的对象本身。

我们现在处在一个窗口期。智能体技术正在快速进入真实的社会应用,但围绕它的制度框架——法律规则、管理范式、经济理论、社会规范——还在成型的过程中。这个成型过程,正在被大量的「局部的、case by case的」决策所填充,这些决策的做出者,大多数并没有意识到他们在做的不只是技术决策或商业决策,而是制度选择。

把这些制度选择背后的社会科学问题说清楚,让更多的人意识到这里存在一批需要被认真对待的结构性问题——这是这个系列想要做的事。

不是给答案,而是让问题可见。

因为可见的问题,才有可能被认真对待。被认真对待的问题,才有可能在产生最坏的后果之前,被干预。

概念框架至此。接下来,从经济学开始,逐一进入。