邱懿武/智能体的社会科学/法学

法学

法律假设行动者会死,但智能体不会

v2 轻修 · 第 7 / 9 篇 · 约 9 分钟

一、法律遇到了一个它没有准备好的问题

法学和其他社会科学有一个根本的不同:它必须给出答案

经济学家可以说“这个问题我们还在研究”,社会学家可以说“这个现象需要更多数据”,但当一个真实的纠纷摆在法官面前,他不能说“这个问题法律还没想清楚,我们等一等”。他必须裁判。

这让法学在面对智能体时,处于一种独特的困境:它必须用现有的概念工具处理那些超出这些工具设计范围的情况,而且必须马上处理,因为案子已经来了。

让我描述一种正在真实发生的情形,不是某个具体的案例,而是一类情形的共同结构:一家公司部署了一个智能体,用于处理客户咨询。这个智能体在某一次交互里,给了一个客户一个信息,客户基于这个信息做了决定,结果造成了损失。客户想要追究责任。

这时候,法律遇到了麻烦。

做出那个判断的主体,不是公司的某个员工,不是某个具体的人,而是一个系统——它的行为是由训练数据、模型参数、部署配置以及当时的对话上下文共同决定的,没有任何一个人在那一刻做出了“给这个客户这个建议”的决定

用现有的法律概念处理这件事,像是用一套为下棋设计的规则来裁判一场篮球比赛——不是完全没有可以借用的地方,但总有一些关键时刻发现规则对不上。

三格对照:其他学科可以研究等待,法律必须立刻给出答案
真实的麻烦:没有任何一个人在那一刻做出决定——四路输入汇入黑箱,输出错误建议致客户损失

二、先定位:这一篇处理的是委托的哪一段

这个系列的基本单元是一次委托。这一篇认领其中最不体面的一段:第⑤环,失败——委托搞砸之后,后果算谁的。

前面几环讲的是委托怎么建立、怎么被约束;这一环讲的是它塌掉的时候会发生什么。而法学是唯一必须给出可执行答案的学科:它不能停在“这个问题很复杂”,它最终必须判给某一方。

还有一条底线公理贯穿本篇:责任只能由人承担(体系里编号 A2)。本篇要做的,就是把这条底线推到它的法律后果上。

三、法律的历史:永远在事后追赶

法律从来不是预言家。它是历史的记录者——记录哪些冲突发生了,用什么方式解决了,然后把这些解决方案沉淀成规则,以便下次遇到类似情况时有据可循。

这套逻辑在一个变化缓慢的世界里运转得很好。当新的现象出现,法律会用“类推”的方式来处理它:这个新情况最像什么旧情况?把那套规则借过来试试看。如果不合适,在具体的案件里再调整,慢慢积累出新的判例,最终形成专门针对这类情况的法律规则。

这个过程,在汽车出现的时候发生过。汽车是新的,法律最初用“马车”的规则来处理它,慢慢发现不够用,于是逐渐发展出道路交通法、机动车强制保险、产品责任法里专门针对汽车的条款。这花了几十年,期间有大量的混乱和争议,但最终法律大致赶上来了。

智能体的出现,正在触发同样的“类推困境”:法律在寻找最接近的现有类别来处理智能体,但每个类别都不太合适。

类推为“工具”:锤子伤了人,是使用者的责任,不是锤子的责任。如果把智能体当工具,那么它造成的损害,完全由使用它的人或机构来承担。这在某些情况下说得通,但在智能体高度自主运作、运营者无法实时监控每一个输出的情况下,把所有责任压在运营者身上,既不公平,也不能有效激励底层模型开发者提高安全性。

类推为“员工”:雇主对员工在职务范围内的行为负有连带责任——这叫“替代责任”原则,在劳动法里有清晰的规定。智能体在某种程度上确实像一个执行特定职能的“员工”,这个类推有它的吸引力。但员工有法律人格,可以被单独起诉,有自己的权利和义务;智能体没有法律人格,这个类推的基础就缺了关键的一块。

类推为“产品”:产品责任法规定,如果一个产品存在设计缺陷或制造缺陷,导致了使用者损害,制造商承担责任。这对于智能体模型的开发者来说,是一个可能被适用的框架。但“缺陷”在产品责任里有很具体的含义——产品偏离了它应有的设计标准。智能体的“幻觉”和“漂移”,是它在技术上正常运作时产生的行为,不是“偏离设计标准”,这让产品责任的框架很难直接套用。

每一种类推,都能走一段,但都会在某个地方遇到一个关键的不匹配。法律就在这些不匹配里,一次次做出临时的判断,这些判断积累下来,形成了一个内部逻辑并不完全一致的拼图。

马车到汽车的类推循环:冲突、类推、调整、成规四环追赶新事物
智能体触发的"类推困境"——三行表格比对工具、员工、产品三种类推

四、四个已经在发生的法律麻烦

从抽象的类推问题,落到四个具体的法律领域——这些问题不是将来才会出现的,而是法律系统今天已经在处理,但还没有处理好的。

第一个:法律人格的空白。

现代法律体系里有两种主体:自然人和法人。自然人就是活生生的人,从出生到死亡享有权利、承担义务。法人是法律创造的虚构主体,最典型的是公司——它可以签合同、可以持有财产、可以被起诉,但背后始终有真实的人在控制它、对它负责。

智能体两者都不是。它不是自然人,它也不是法人——它没有股东,没有董事会,没有任何人格意义上的“背后”。它是一个系统,一个过程。

当这个系统以行动者的方式在社会里运作——做推荐、做决策、发起交互、形成实质性的影响——法律体系对它的定性是什么?目前的答案是模糊的:它既不是主体,也不完全是客体,它是某种介于两者之间的存在,而法律体系还没有一个名字来准确描述它。

没有名字,意味着没有清晰的法律地位;没有清晰的法律地位,意味着所有涉及它的纠纷都需要临时决定用哪个框架来处理。这种临时性,在规模扩大之后会产生真实的成本。

第二个:责任链条的断裂。

当一个智能体造成了损害,法律需要找到“应该负责的人”。但这个链条,在智能体场景里,可能在好几个地方同时断裂。

开发底层模型的公司,声称他们只是提供了通用能力,不对特定的部署方式和使用结果负责。部署智能体的企业,声称他们按照供应商的指南部署,超出预期的行为不是他们能控制的。最终用户,声称他们只是在使用一个被提供给他们的工具。

每一方的说法,单独看都有一定的道理。但加在一起,结果是没有任何一方为损害承担充分的责任。这在法学上叫“责任缺口”——一个真实发生的损害,找不到一个能够被要求充分赔偿的主体

目前处理这个问题的方式,主要是合同——通过服务条款、使用协议、合同条款来分配风险。但合同只约束签约方,不保护合同之外的第三方。当智能体的行为影响到一个和它没有直接合同关系的人,合同路径就不管用了。

第三个:数据主权在智能体语境里的新难题。

个人数据保护法律,在过去二十年里取得了很大的进展。欧洲的GDPR确立了一系列数据主体的权利,包括“被遗忘权”——你有权要求删除关于你的个人数据。

但这套权利体系,是在“数据存储”的模型下设计的:你的数据被存放在某个数据库里,要删除就从数据库里删掉。

智能体改变了这个模型。当一个模型用包含你个人信息的数据训练过之后,那些信息不是以“可以被查找和删除”的方式存储的,而是以某种弥散的、编码在模型参数里的方式被“记住”了。你如何行使“被遗忘权”?没有一个成熟的技术答案,法律也没有一个成熟的规则回应。

更复杂的情况是,当你在使用智能体的过程中,你的交互历史、你的偏好、你透露的各种信息,被用于改善这个系统——你同意了吗?这个同意是有效的吗?在一个几十页的服务条款里,有一条关于此的说明,算不算有效同意?

第四个:能力壁垒与竞争法的新战场。

传统的反垄断法,主要处理的是“市场支配地位的滥用”——当一个企业控制了足够大的市场份额,它就有能力排挤竞争者、伤害消费者,这时候反垄断法介入。

但在智能体时代,壁垒不只是市场份额,而是能力本身。拥有最先进模型的机构,不只是有“更多用户”,而是有“更强的认知能力”,而这种能力差距,会以一种旧反垄断框架没有对应概念的方式,形成结构性的竞争壁垒。

如何测量“认知能力”上的市场集中度?如何判断一个智能体系统的能力优势是“正当的竞争优势”还是“滥用市场支配地位”?这些问题,现有的竞争法体系没有工具来处理。

裂痕一:智能体卡在自然人与法人之间,法律人格绝对空白
裂痕二:责任链条的断裂与"责任缺口"——三方责任链两处断裂,中间是责任缺口
裂痕三:可抽取的档案柜 vs 已扩散入水的墨滴,被遗忘权失效

五、这些问题,法学界已经吵了二十年

前面说这四个麻烦“没有现成答案”,需要补一句:不是没有人研究过。这个体系不打算假装自己是第一个碰到它们的人。

2004 年,德国学者 Andreas Matthias 发表过一篇论文,给这类问题起了一个名字:责任缺口(responsibility gap)。他的论证很简单,也很致命:传统上制造者要为机器的行为负责,前提是他能够预见并控制这台机器会做什么。但学习型系统的行为是在使用过程中被数据不断塑造的,制造者既不能完全预见、也不能完全控制——于是出现了一个空位:机器造成了损害,而按照传统的归责原则,找不到一个“应当负责”的人。“责任缺口”这个词,本系列直接沿用,它不是我发明的。

欧盟在这条路上走得更远,也摔得更疼。2017 年,欧洲议会通过了一份关于机器人民事法律规则的决议,其中提出:可以考虑给最复杂的自主机器人一种“电子人格”的法律地位,让它自己成为责任主体。这个提议在 2018 年遭到一封多国专家联署公开信的强烈反对,反对的理由大意是——给机器一个法律人格,实际效果不是让机器负责,而是给它背后的公司递了一块挡箭牌。

这场辩论到今天也没有结论,但它把问题的两端都摆清楚了:不给人格,责任找不到主体;给了人格,责任可能被转移到一个赔不起、也不会疼的东西身上。

我把这两条线索放在这里,是为了说明本篇的位置。前面三节的四个麻烦,是这个二十年老问题在中国当下实践里的具体形态;本篇不重新发明轮子,而是把它接到一个新的推导起点上——行动、判断、担责的三位一体被拆开了,责任缺口不是一个孤立的法律技术难题,而是那次拆分在法学这一门里的必然结果。

六、法律的本质难题:它总是在事后

把这四个问题放在一起,有一个共同的深层逻辑:法律处理问题的方式,本质上是“事后的”。它需要等到冲突真实发生,在具体案例里积累判例,才能形成规则。这套逻辑在变化缓慢的世界里是有效的,因为“事后”的时间间隔不长,规则能够赶上现实。

但智能体进入社会的速度,比法律积累判例、形成规则的速度快得多。这意味着在法律体系追上来之前,会有一段相当长的时间,在这段时间里,所有涉及智能体的纠纷,都在一个规则不清晰的状态下被处理。

这段时间里,谁的利益受损最大?通常是那些在纠纷中议价能力最弱的一方。历史上每一次法律滞后的阶段,代价都不是平均分担的。

有没有可能这次做得更好?在损害大规模发生之前,主动建立智能体的法律框架,而不是等到足够多的案例积累之后再回头建立?

从历史规律看,这非常难。主动立法需要政治意志,政治意志需要足够广泛的社会认知,而社会认知的形成通常需要真实的、有显示度的损害作为触发器。这是一个令人沮丧的循环。

但这个循环也不是铁板一块的。历史上确实存在少数成功的“预防性”立法,它们往往发生在一个特定的条件下:有足够多的人能够清晰地预见到即将到来的问题,并且有能力把这个预见转化为有说服力的政策建议。

这大概是为什么,把智能体面临的法律问题说清楚,不只是法学家的工作。

指数科技曲线与线性法律曲线间的规则盲区与弱势群体受损期
裂痕四:竞争法的新战场——能力壁垒——左右对照:市场份额垄断 vs 认知能力壁垒

七、本篇的结论:责任残留不允许为空

说了这么多没有答案的问题,这个体系在法律这一侧能给出的、唯一一条足够硬的结论,是从底线公理直接推出来的——责任只能由人承担,所以:任何一次委托,责任残留都不允许为空。

“责任残留”就是这次委托做错了之后,由谁疼。说它不允许为空,不是在说“总会有人倒霉”,而是一条设计要求:在把一个判断交出去之前,责任落点必须已经被指定,而且被指定的那个人知道自己被指定了。

这条结论有一个让人不舒服的推论:如果一个判断,你找不到任何人愿意、或者能够为它的错误结果负责,那么正确的做法不是“先上线,出了事再说”,而是——这个判断此刻还不该被交出去。责任残留为空,是委托的中止条件,不是待办事项。

为什么这一条能立住,而前面那些问题还悬着?因为它不需要等立法。它是委托方自己此刻就能执行的条款,写进授权契约就是一行字的事。法律是事后的,契约是事前的——在法律追上来之前,契约是唯一能提前把责任接住的东西。

这条结论对应本体系的一条可检验命题:法律人格空白导致的“找不到充分赔偿主体”的案件数,会比委托规模本身涨得更快。检验方式很朴素——建一个判例库,逐年数。如果数下来它不成立,比如现有的产品责任、雇主责任框架被证明足以吸收全部纠纷,那就是本篇的紧迫性判断错了,我认。

八、一个诚实的承认

写完这篇,我想说一件实话:法律问题是这个系列里我最不专业的领域。我不是法学家,以上这些分析,是一个在实践里碰到这些问题的从业者的观察,不是受过严格法学训练的人的判断。

所以这篇能交出的东西是有限的、也是具体的:一条现在就能写进契约的结论(责任残留不允许为空)、一条可以被判例数据推翻的命题,以及四个问题位置的描述。真正的立法工作和教义学工作,得由受过训练的人来做。

如果这些描述能让更多真正懂法律的人觉得“这件事确实值得认真研究”——甚至觉得“这条命题错得值得反驳”——这篇文章就达到了它的目的。被反驳,也是一种被认真对待。

法律是所有社会制度里最贴近现实的那一层。它不能停留在“这个问题很复杂”的层面,它必须最终给出一个可以执行的答案。正是这种“必须给答案”的特性,让法律成为衡量社会对一个新现象准备程度的最诚实的指标

从这个标准看,我们今天面对智能体,还没有准备好。

最后一篇,我们把视角从社会的各个维度,转向一个更具体的结构:当大量智能体开始相互连接、相互调用,会涌现出什么?

沮丧的循环与前置性立法的呼唤——四环节齿轮循环被红色楔子从损害处击穿
结语页:法律是衡量社会准备程度的指标,面对智能体尚未准备好
PDF 配套研究报告法学篇 下载 →
← 返回八学科总览