邱懿武/智能体的社会科学/政治学

政治学

谁有权定义智能体,谁就在这个时代拥有了立法权

v2 升级 · 第 6 / 9 篇 · 约 9 分钟

一、一件我做了很久才意识到的事

我做了两三年的智能体方法论研究,写了大量关于“如何定义一个合格的智能体”的东西——它应该有哪些要素,边界应该怎么设,能力应该怎么评估,版本应该怎么管理。

有一天,一个朋友问我:“你有没有意识到,你在做的这件事,本质上是一种立法?”

我愣了一下。他解释说:你在定义“什么是标准的、规范的智能体”,这意味着你在定义什么是符合规范的,什么是不符合规范的。一旦这套定义被采纳,它就会成为别人开发、评估、交易智能体时的参照系。规则被谁制定,谁就在这个领域里拥有了某种权力——哪怕这种权力看起来只是“方法论层面的”。

我想了很久。我觉得他是对的。

政治学研究的核心问题,是权力——它从哪里来,如何分配,如何被制衡。人类历史上,权力最持久的形式,往往不是军事力量或者资本积累,而是规则制定权。谁定义了“游戏应该怎么玩”,谁就在这场游戏里拥有了其他人所没有的优势。

智能体这个领域,正处于规则还没有形成的阶段。这个阶段,从政治学的角度看,是权力格局最容易被塑造、也最容易被忽视的时刻。

智能体标准与方法论本质是行业立法:代码框转为法典殿堂
历史一再重演:每一次技术选择,都深刻影响了时代的权力格局。(图无标题栏,此为底部横幅原文)——三栏时间轴对比17世纪、20世纪70年代与今天

二、先定位:这一篇处理的是委托的哪一段

这个系列的基本单元是一次委托。这一篇认领其中两段,而且是最容易被当成“技术细节”忽略掉的两段。

第④环,保留:判断交出去之后,人手里还剩什么权力——能不能推翻它,怎么推翻,推翻的通道会不会锈死。

第⑦环,元层:谁来定义以上这一切的规则。这一环最隐蔽,因为它不发生在任何一次具体的委托里,而是发生在所有委托之前。

本篇的核心主张只有一句:这两件事都不是技术问题,是政治问题。而政治问题有政治问题的处理传统——人类为此积累了几千年经验,只是还没有人把这套经验搬到智能体上来。

三、每一次技术革命,都有一场关于规则的政治博弈

这件事在历史上一再发生,但每次都以不同的面貌出现,所以每次都让人感觉是新鲜的。

互联网的底层协议——TCP/IP——是在二十世纪七十年代由一批美国研究人员制定的。这批人当时在做的,在他们自己看来是一个技术问题:如何让不同的计算机网络能够互相通信?但他们做的技术选择,包含了大量关于“这个网络应该是什么样的”的价值判断——它应该是去中心化的还是中心化的?应该是开放的还是封闭的?谁有权使用它?这些判断,被编码进了协议本身,然后成为了整个互联网时代的基础设施。

几十年后,我们才充分意识到那批决策的政治意涵:一个去中心化、开放的互联网架构,在技术上是一种设计选择,但在政治上,它意味着没有任何单一的政府或机构能够完全控制信息流通。这个“技术选择”,深刻影响了互联网时代的权力格局。

还有一个更古老的例子。十七世纪初,荷兰法学家雨果·格劳秀斯写了一篇文章,论证海洋是“公共的”,不能被任何国家所独占。这在当时是一个“法律理论”问题,但它实际上是在为荷兰争夺全球贸易权——因为如果海洋是公共的,荷兰的商船就可以自由航行,打破葡萄牙和西班牙对贸易路线的垄断。一个“理论命题”,直接服务于一个国家的地缘政治利益。

回到今天。“智能体应该如何被定义和评估”这个问题,表面上是技术和方法论的问题,但它的政治意涵,和以上两个历史案例是同一个级别的。谁的定义体系被采纳,谁就在接下来很长一段时间里,掌握了这个领域的“立法权”——决定什么是合格的,什么是劣质的,什么需要被规范,什么应该被鼓励。

这场博弈正在发生,但大多数参与者还没有意识到自己在参与一场政治博弈,他们以为自己只是在做技术决策。

认知基础设施(算力/数据/模型)塑造人类的认知方式——三层台阶示意农业、工业、AI时代的基础设施

四、认知基础设施,是新的权力争夺场

政治学里有一个关于权力的基本命题:谁控制了关键的基础设施,谁就在那个时代拥有了结构性的权力优势

农业时代,关键基础设施是土地。控制土地的贵族和地主,拥有对整个社会的基本控制能力——因为所有人都需要吃饭,而食物来自土地。工业时代,关键基础设施变成了资本和工厂。二十世纪后半段,关键基础设施变成了信息渠道——媒体、互联网平台,成为新的权力核心。

每一次这种转变,都重写了一遍权力格局。原本处于权力中心的力量被边缘化,新的力量崛起。这个过程通常伴随着激烈的政治冲突,有时候是战争,更多时候是制度变革,有时候是几十年缓慢的社会重组。

现在,认知基础设施正在成为新的关键基础设施。

训练大型 AI 模型需要的算力、数据和研发能力,目前高度集中在极少数的机构手中。这不是市场自然选择的偶然结果,而是这类基础设施的技术特性所决定的——它有非常高的门槛,高到足以形成自然垄断。能够控制最先进认知基础设施的机构,在权力结构上的位置,和历史上控制关键基础设施的力量是类似的:他们不只是在提供一种服务,他们在塑造所有依赖这个基础设施的人的认知方式。

这不是一个关于“AI 公司很坏”的论断。大多数在做这件事的人,都有真诚的善意,都在认真思考如何负责任地部署这种能力。但善意和结构性权力是两件不同的事。历史上拥有结构性权力的力量,即便初衷是好的,也会因为权力本身的逻辑而产生问题——这是政治学几千年来反复观察到的规律。

政治学对此的标准答案是:制衡。权力不能被依赖它的人的善意来约束,必须有独立于权力本身的制约机制。但认知基础设施的制衡机制,今天几乎不存在。

视角下沉:从宏观权力,到企业的真实困境——地球与机房示意,视角从全球降到企业

五、智能体系统里真实的“宪政”问题

我想把视角从宏观的权力结构,拉到一个更具体的层面——企业或机构在部署智能体系统时,日常运营里真实存在的权力问题。

“宪政”这个词,在政治学里指的是通过根本性的规则来约束权力、防止权力滥用的制度设计。一部宪法的核心功能,不是告诉政府应该做什么,而是告诉政府不能做什么,以及当它越界时,谁有权力把它拉回来。

当一个企业部署了一套智能体系统,同样存在一组类似“宪政”的问题,只是没有人用这个词来描述它。

谁被授权做什么?每一个智能体都在一个授权框架里运作——它被允许访问哪些数据,被允许做哪些类型的决策,哪些操作需要人工确认。这个授权框架,就是这个智能体的“宪法”。但在大多数企业的实际部署里,这个框架是隐含的、模糊的,而不是被显性地设计和文档化的。模糊的授权是权力滥用的温床,这在人类政治史上反复被证明,在智能体系统里同样成立。

谁有权推翻它的决定?当一个智能体做出了一个判断,这个判断应该被执行,还是可以被质疑,被推翻?如果可以被推翻,谁有这个权力,通过什么程序?在人类组织里,这套“上诉”机制是经过漫长历史演化形成的,有明确的层级和程序。在智能体系统里,这个机制通常是缺失的,或者是非正式的。

出了问题,问责机制在哪里?这和管理学里的责任归因问题不同——不是“价值该如何分配”,而是“当系统失效并造成损害,谁必须出来回答”。政治学里,可问责性(accountability)是防止权力滥用的核心机制。一个没有可问责性的系统,无论它的初衷多么好,都会倾向于在边界处扩张自己的权力范围。

我在实际的项目里经常遇到这三个问题,而且经常发现企业客户没有系统性地想过它们。这不是他们不认真,而是现有的管理工具里没有处理这类问题的成熟框架。

智能体宪政闭环三角:边界与授权、推翻与上诉、损害与问责
智能体本身在这个价值链里的位置是什么?(图无标题栏,此为右侧提问原文)——三层金字塔分消费者、工厂主、生产资料控制者

六、把第二问单独拎出来:推翻权是会锈死的

上面三问并列着说,但它们的分量不一样。第一问(授权边界)在管理学篇已经处理过;第三问(问责)是法学篇的正题。真正属于政治学的,是第二问:谁有权推翻它,以及那个权力还在不在。

因为宪政史上最反复出现的一课,不是权力被明抢,而是权力在无人反对的情况下自己萎缩掉。一项权力如果长期不被行使,它会先变成形式,再变成传说,最后连程序都被简化掉——不是谁废除了它,是没有人再想起用它。

这件事在智能体系统里发生得特别快,因为它每一步都显得合理。

第一个月,人认真看每一条建议,改动很多;第三个月,发现它大部分时候是对的,改动变少;第半年,只在觉得奇怪的时候才看一眼;第一年,“它给什么就用什么”成了默认,而且谁也说不清这个转变是哪天发生的。推翻权从来没有被取消,它只是再没有被使用过。

我在企业管理那一篇里给过这种状态一个名字:L3。判断是它做的,责任还是你担的。从政治学的角度看,L3 是一种橡皮图章状态——名义主权还在人手里,实质决策权已经转移了。人类政治史上,橡皮图章议会从来不是被强行设立的,都是这么一步步“合理”出来的。

好消息是:这个过程有可观测的指标。不用问任何人,看三个数就够了——采纳率、修改幅度、否决频率。其中否决频率最要命:一个团队如果连续几个月一次都没有推翻过智能体的判断,那不是因为它从没犯错,而是因为推翻这个动作已经退出了这个组织的肌肉记忆

宪政设计对这个问题的传统答案,也可以直接搬过来:不要指望权力被自觉行使,要把行使写成义务。定期强制复核、抽样人工重判、异议留痕——这些在人类制度里叫程序正义,搬到委托里就是保留权的维持机制。推翻权必须被定期使用,否则它会锈死。

七、一个被生产关系遮蔽的政治问题

马克思的分析框架,在今天的 AI 产业里有一种奇特的适用性——不是作为政治主张,而是作为描述性工具。

AI 产业里存在一个清晰的生产关系层级:底层是拥有模型权重和训练基础设施的公司——他们控制的是“生产资料”本身;中间层是使用 API 接口构建应用和智能体的开发者和企业——他们是使用生产资料的“工厂主”;最上层是最终用户——他们是这个体系的“消费者”。

这个层级结构,和工业时代的生产关系层级,在形式上是相似的。它带来了一些相似的政治经济学问题:谁从这个价值链中获益最多?底层基础设施的控制者,还是上面的创造者?当底层基础设施被极少数机构控制,“工厂主”和“用户”相对于这些机构,拥有多大的议价能力?

但有一个地方,智能体时代的生产关系比工业时代更复杂:智能体本身在这个价值链里的位置是什么?

当一个智能体通过大量的交互积累了独特的知识、形成了独特的“能力”,这个能力属于谁?属于使用它的企业,属于提供底层模型的公司,还是属于那些在交互中贡献了数据的用户?

这不是哲学问题,是一个在现实中已经开始产生商业冲突的法律政治问题。而我们目前处理这个问题的方式,基本上是“谁有最强的法律团队,谁的主张就更容易被支持”——这是权力不均衡状态下的典型解决方式,而不是一个公正设计出来的答案。

三方交集图:智能体沉淀的独特能力归属,目前靠法务强弱决定
技术的尽头是政治——左右对照:技术补丁失效 vs 政治与制度设计

那么这三层结构,到底推出什么结论?v1 写到这里就停了,只留了三个问句。现在把它答完。

议价能力的高低,不取决于你在这条链上的层级,而取决于你在委托关系里的位置——你是判断的提供者,还是判断的搬运者

模型公司控制着算力和权重,看起来是最上游的地主。但算力会越来越便宜,模型会越来越同质——真正稀缺的从来不是“能生成答案的能力”,而是定义什么算好答案的能力,以及验收它的能力。这两样东西不在模型公司手里,在具体的行业、具体的场景、具体的老手手里。

所以这条链上最脆弱的位置,不是最下游的用户,而是中间层——那些只做搬运的应用开发者。他们既不持有生产资料,也不持有判断点的定义权,两头都可以绕开他们。而最稳的位置有两个:一头是真正持有算力的,另一头是真正持有判断的

这个结论对本篇的意义在于:权力的分配,最终仍然落回“谁能定义好坏”这件事上。而“定义好坏”正是第⑦环——谁来定规则。政治学在这里和经济学接上了:定义权就是定价权,也是立法权。

八、这个问题,学界已经有一条线索

说到这里需要交代一句:把“规则”和“代码”放在一起谈,不是我的发明。

1999 年,法学家劳伦斯·莱斯格写过一本关于网络空间法律的书,提出了一个后来被反复引用的判断:代码即法律——在数字空间里,真正约束人行为的往往不是成文法,而是系统被写成什么样。你能做什么、不能做什么,是由架构决定的,而架构是私人公司写的。

这个判断在智能体时代变得更锋利。莱斯格那时说的“代码”还是明确的规则;而今天决定你能看到什么、被推荐什么、被判断为什么样的人的,是一套连它的编写者也未必能完整解释的权重。后来有研究者把这类不可解释的决策系统称为“黑箱社会”,讨论的正是这件事:当决策规则本身不可见,问责就失去了对象。

近些年还有一个正在成形的方向,大意是问:那些事实上在行使公共权力的平台,是否应该受到某种宪法性的约束?——正当程序、申诉权利、透明度义务,这些原本用来约束政府的东西,能不能、该不该套到私营的基础设施上。

本篇和这条线索的关系是这样的:他们研究的是“平台作为权力”,而本篇往前推一步,研究的是“委托作为权力关系”。平台只是委托关系被固化下来之后的一种形态;在它固化之前,权力就已经在每一次具体的让渡里完成了转移。宪政三问之所以要问在企业内部、问在每一个部署现场,是因为等到它长成平台再问,就晚了。

九、权力的问题,需要政治的答案

技术领域的人有一种常见的倾向:相信技术问题有技术答案。这种倾向有它的合理性——技术问题通常确实需要技术解决方案。但当技术问题的核心是权力的分配时,纯粹的技术答案就不够了。

权力的问题,需要政治的答案——不是“政治游戏”意义上的政治,而是“如何组织集体生活、如何在不同利益之间找到可持续的平衡”意义上的政治。

人类在几千年的政治实践里,积累了一些关于如何处理权力问题的智慧:分权、制衡、透明度、可问责性、程序正义。这些原则不是完美的,历史上每一个应用了这些原则的制度都有它的缺陷和失败。但这些原则背后有一个深刻的洞察:权力不能靠权力拥有者的善意来约束,必须靠独立于权力的机制来约束。

智能体时代的权力问题,需要以这个洞察为起点来思考。不是“这些 AI 公司应该更负责任”——这是对善意的期待,不是对权力的约束。而是:什么样的制度设计,能够让认知基础设施的控制者,无论其主观意图如何,都受到有效的外部约束?

这个问题,今天几乎没有被认真讨论。不是因为它不重要,而是因为它太超前于现有的政治议程了。政治体系的运作,通常是在问题已经足够严重、代价已经足够真实的时候,才开始认真回应。

这意味着,等到政治体系准备好认真讨论这个问题的时候,权力格局可能已经固化了。这不是悲观,而是政治学给我们的一个诚实的历史提醒:制度建立总是滞后于权力的形成,而滞后的代价,通常由没有权力的人来承担

我没有一个关于“智能体政治体制应该长什么样”的答案。但我觉得,首先需要的是更多的人意识到:这里存在一个权力问题,它不会因为技术进步而自然解决,它需要政治意志和制度设计来回应。

从意识到问题,到开始讨论问题,到真正形成有效的制度——这个过程需要时间,而时间是我们目前最稀缺的东西。

失衡天平:开发者善意一端翘起,自然垄断的结构性权力压沉

十、本篇留下的命题与招题

本篇认领第④⑦环,留下两条可以被检验、也可以被推翻的命题。

第一条,关于保留权的流失。没有显性设计推翻权的系统,其人类否决频率会随时间单调趋零。这一条在企业个案里我已经反复见到,可以算“已知”;但它是否在社会尺度上普遍成立,需要更大的样本。检验方式很现成:调运行日志,数否决次数。

第二条,关于窗口期。在委托规则固化之前的这段窗口期里,规则由供给方单方面写定的比例,超过九成。检验方式也很朴素——把主流智能体产品的服务条款收集起来,逐条统计:有多少条是双向约定的,有多少条是“我方有权随时修改”。

第二条如果成立,它说明的事情比它本身更重:我们正在经历一次立法,而绝大多数人既没有参与,也不知道它正在发生。这也是本系列公开招募的招题之一——把智能体的服务条款当宪法来审查,谁做,都是一件有价值的事。

下一篇,我们进入法学的维度:当行动者没有法律人格,我们现有的法律体系会遇到什么样的麻烦?

制度的建立总是滞后于权力的形成,我们最稀缺的是时间——两条曲线之间是弱势群体承担的代价空间
PDF 配套研究报告政治学篇 下载 →
← 返回八学科总览