一、一件我做了很久才意识到的事
我做了两三年的智能体方法论研究,写了大量关于“如何定义一个合格的智能体”的东西——它应该有哪些要素,边界应该怎么设,能力应该怎么评估,版本应该怎么管理。
有一天,一个朋友问我:“你有没有意识到,你在做的这件事,本质上是一种立法?”
我愣了一下。他解释说:你在定义“什么是标准的、规范的智能体”,这意味着你在定义什么是符合规范的,什么是不符合规范的。一旦这套定义被采纳,它就会成为别人开发、评估、交易智能体时的参照系。规则被谁制定,谁就在这个领域里拥有了某种权力——哪怕这种权力看起来只是“方法论层面的”。
我想了很久。我觉得他是对的。
政治学研究的核心问题,是权力——它从哪里来,如何分配,如何被制衡。人类历史上,权力最持久的形式,往往不是军事力量或者资本积累,而是规则制定权。谁定义了“游戏应该怎么玩”,谁就在这场游戏里拥有了其他人所没有的优势。
智能体这个领域,正处于规则还没有形成的阶段。这个阶段,从政治学的角度看,是权力格局最容易被塑造、也最容易被忽视的时刻。
二、每一次技术革命,都有一场关于规则的政治博弈
这件事在历史上一再发生,但每次都以不同的面貌出现,所以每次都让人感觉是新鲜的。
互联网的底层协议——TCP/IP——是在二十世纪七十年代由一批美国研究人员制定的。这批人当时在做的,在他们自己看来是一个技术问题:如何让不同的计算机网络能够互相通信?但他们做的技术选择,包含了大量关于“这个网络应该是什么样的”的价值判断——它应该是去中心化的还是中心化的?应该是开放的还是封闭的?谁有权使用它?这些判断,被编码进了协议本身,然后成为了整个互联网时代的基础设施。
几十年后,我们才充分意识到那批决策的政治意涵:一个去中心化、开放的互联网架构,在技术上是一种设计选择,但在政治上,它意味着没有任何单一的政府或机构能够完全控制信息流通。这个“技术选择”,深刻影响了互联网时代的权力格局。
还有一个更古老的例子。十七世纪初,荷兰法学家雨果·格劳秀斯写了一篇文章,论证海洋是“公共的”,不能被任何国家所独占。这在当时是一个“法律理论”问题,但它实际上是在为荷兰争夺全球贸易权——因为如果海洋是公共的,荷兰的商船就可以自由航行,打破葡萄牙和西班牙对贸易路线的垄断。一个“理论命题”,直接服务于一个国家的地缘政治利益。
回到今天。“智能体应该如何被定义和评估”这个问题,表面上是技术和方法论的问题,但它的政治意涵,和以上两个历史案例是同一个级别的。谁的定义体系被采纳,谁就在接下来很长一段时间里,掌握了这个领域的“立法权”——决定什么是合格的,什么是劣质的,什么需要被规范,什么应该被鼓励。
这场博弈正在发生,但大多数参与者还没有意识到自己在参与一场政治博弈,他们以为自己只是在做技术决策。
三、认知基础设施,是新的权力争夺场
政治学里有一个关于权力的基本命题:谁控制了关键的基础设施,谁就在那个时代拥有了结构性的权力优势。
农业时代,关键基础设施是土地。控制土地的贵族和地主,拥有对整个社会的基本控制能力——因为所有人都需要吃饭,而食物来自土地。工业时代,关键基础设施变成了资本和工厂。二十世纪后半段,关键基础设施变成了信息渠道——媒体、互联网平台,成为新的权力核心。
每一次这种转变,都重写了一遍权力格局。原本处于权力中心的力量被边缘化,新的力量崛起。这个过程通常伴随着激烈的政治冲突,有时候是战争,更多时候是制度变革,有时候是几十年缓慢的社会重组。
现在,认知基础设施正在成为新的关键基础设施。
训练大型 AI 模型需要的算力、数据和研发能力,目前高度集中在极少数的机构手中。这不是市场自然选择的偶然结果,而是这类基础设施的技术特性所决定的——它有非常高的门槛,高到足以形成自然垄断。能够控制最先进认知基础设施的机构,在权力结构上的位置,和历史上控制关键基础设施的力量是类似的:他们不只是在提供一种服务,他们在塑造所有依赖这个基础设施的人的认知方式。
这不是一个关于“AI 公司很坏”的论断。大多数在做这件事的人,都有真诚的善意,都在认真思考如何负责任地部署这种能力。但善意和结构性权力是两件不同的事。历史上拥有结构性权力的力量,即便初衷是好的,也会因为权力本身的逻辑而产生问题——这是政治学几千年来反复观察到的规律。
政治学对此的标准答案是:制衡。权力不能被依赖它的人的善意来约束,必须有独立于权力本身的制约机制。但认知基础设施的制衡机制,今天几乎不存在。
四、智能体系统里真实的“宪政”问题
我想把视角从宏观的权力结构,拉到一个更具体的层面——企业或机构在部署智能体系统时,日常运营里真实存在的权力问题。
“宪政”这个词,在政治学里指的是通过根本性的规则来约束权力、防止权力滥用的制度设计。一部宪法的核心功能,不是告诉政府应该做什么,而是告诉政府不能做什么,以及当它越界时,谁有权力把它拉回来。
当一个企业部署了一套智能体系统,同样存在一组类似“宪政”的问题,只是没有人用这个词来描述它。
谁被授权做什么?每一个智能体都在一个授权框架里运作——它被允许访问哪些数据,被允许做哪些类型的决策,哪些操作需要人工确认。这个授权框架,就是这个智能体的“宪法”。但在大多数企业的实际部署里,这个框架是隐含的、模糊的,而不是被显性地设计和文档化的。模糊的授权是权力滥用的温床,这在人类政治史上反复被证明,在智能体系统里同样成立。
谁有权推翻它的决定?当一个智能体做出了一个判断,这个判断应该被执行,还是可以被质疑,被推翻?如果可以被推翻,谁有这个权力,通过什么程序?在人类组织里,这套“上诉”机制是经过漫长历史演化形成的,有明确的层级和程序。在智能体系统里,这个机制通常是缺失的,或者是非正式的。
出了问题,问责机制在哪里?这和管理学里的责任归因问题不同——不是“价值该如何分配”,而是“当系统失效并造成损害,谁必须出来回答”。政治学里,可问责性(accountability)是防止权力滥用的核心机制。一个没有可问责性的系统,无论它的初衷多么好,都会倾向于在边界处扩张自己的权力范围。
我在实际的项目里经常遇到这三个问题,而且经常发现企业客户没有系统性地想过它们。这不是他们不认真,而是现有的管理工具里没有处理这类问题的成熟框架。
五、一个被生产关系遮蔽的政治问题
马克思的分析框架,在今天的 AI 产业里有一种奇特的适用性——不是作为政治主张,而是作为描述性工具。
AI 产业里存在一个清晰的生产关系层级:底层是拥有模型权重和训练基础设施的公司——他们控制的是“生产资料”本身;中间层是使用 API 接口构建应用和智能体的开发者和企业——他们是使用生产资料的“工厂主”;最上层是最终用户——他们是这个体系的“消费者”。
这个层级结构,和工业时代的生产关系层级,在形式上是相似的。它带来了一些相似的政治经济学问题:谁从这个价值链中获益最多?底层基础设施的控制者,还是上面的创造者?当底层基础设施被极少数机构控制,“工厂主”和“用户”相对于这些机构,拥有多大的议价能力?
但有一个地方,智能体时代的生产关系比工业时代更复杂:智能体本身在这个价值链里的位置是什么?
当一个智能体通过大量的交互积累了独特的知识、形成了独特的“能力”,这个能力属于谁?属于使用它的企业,属于提供底层模型的公司,还是属于那些在交互中贡献了数据的用户?
这不是哲学问题,是一个在现实中已经开始产生商业冲突的法律政治问题。而我们目前处理这个问题的方式,基本上是“谁有最强的法律团队,谁的主张就更容易被支持”——这是权力不均衡状态下的典型解决方式,而不是一个公正设计出来的答案。
六、权力的问题,需要政治的答案
技术领域的人有一种常见的倾向:相信技术问题有技术答案。这种倾向有它的合理性——技术问题通常确实需要技术解决方案。但当技术问题的核心是权力的分配时,纯粹的技术答案就不够了。
权力的问题,需要政治的答案——不是“政治游戏”意义上的政治,而是“如何组织集体生活、如何在不同利益之间找到可持续的平衡”意义上的政治。
人类在几千年的政治实践里,积累了一些关于如何处理权力问题的智慧:分权、制衡、透明度、可问责性、程序正义。这些原则不是完美的,历史上每一个应用了这些原则的制度都有它的缺陷和失败。但这些原则背后有一个深刻的洞察:权力不能靠权力拥有者的善意来约束,必须靠独立于权力的机制来约束。
智能体时代的权力问题,需要以这个洞察为起点来思考。不是“这些 AI 公司应该更负责任”——这是对善意的期待,不是对权力的约束。而是:什么样的制度设计,能够让认知基础设施的控制者,无论其主观意图如何,都受到有效的外部约束?
这个问题,今天几乎没有被认真讨论。不是因为它不重要,而是因为它太超前于现有的政治议程了。政治体系的运作,通常是在问题已经足够严重、代价已经足够真实的时候,才开始认真回应。
这意味着,等到政治体系准备好认真讨论这个问题的时候,权力格局可能已经固化了。这不是悲观,而是政治学给我们的一个诚实的历史提醒:制度建立总是滞后于权力的形成,而滞后的代价,通常由没有权力的人来承担。
我没有一个关于“智能体政治体制应该长什么样”的答案。但我觉得,首先需要的是更多的人意识到:这里存在一个权力问题,它不会因为技术进步而自然解决,它需要政治意志和制度设计来回应。
从意识到问题,到开始讨论问题,到真正形成有效的制度——这个过程需要时间,而时间是我们目前最稀缺的东西。
下一篇,我们进入法学的维度:当行动者没有法律人格,我们现有的法律体系会遇到什么样的麻烦?