一、一个需要认真对待的观察
我做AI教育工作,经常在不同的场合给不同的人讲AI。这些年下来,我注意到了一个让我有些不安的现象。
同样是一个十岁的孩子,在两种家庭环境里,接触AI的方式可以是完全不同的。一种情况是:家长本身对AI有深度理解,家里的AI工具是精心筛选过的,孩子在使用AI的同时,旁边有人在引导他们理解「这个工具在做什么、它的边界在哪里、我应该信任它多少」。另一种情况是:孩子接触的是随机推送给他的免费工具,没有任何引导,用AI写作业、用AI偷懒,从来没有人帮他想过「这件事对我的思维方式意味着什么」。
这不是有没有「学AI」的问题。这是两种完全不同的认知发展轨迹——一条轨迹上,AI在放大孩子的思维能力;另一条轨迹上,AI在替代孩子思考,同时让他感觉自己在变聪明。
我在教育领域观察到的这个分化,其实是一个更大的社会学现象的局部。社会学研究的核心问题,是不平等如何被生产和维系。人类历史上,每一次重大的技术变革,都会在初期加剧不平等——因为新技术首先惠及那些有能力、有资源、有网络去接触它的人。然后经过一段时间的扩散,不平等可能会收窄,也可能会在新的层面上固化。
智能体带来的,很可能不只是一次更快的「技术扩散的不平等」,而是一种在性质上就不同的新型分层——它不在财富层面运作,而在认知层面运作。而认知层面的不平等,历史上还没有出现过可以参照的先例。
二、社会分层的历史逻辑
社会学从诞生之初,就在试图理解一件事:为什么社会总是分层的,这些层级是如何形成的,又是如何把自己维持下去的?
马克思的答案是:生产资料的占有。谁控制了生产资料,谁就在经济结构里占据主导位置,这种占据会转化为政治权力、文化权力,最终形成稳定的阶级结构。
韦伯的回答更复杂:分层不只是经济的,还有身份地位和政治权力这两个独立的维度,三者相互影响但不能简单地互相化约。
二十世纪的社会学家皮埃尔·布尔迪厄提出了「资本」的扩展概念:社会里流通的不只是经济资本,还有文化资本(知识、品味、文凭)和社会资本(关系网络、社会信任)。这三种资本可以互相转化,共同构成一个人的社会位置。
这些理论框架,在智能体时代依然有解释力,但它们共同缺少了一个在今天变得越来越重要的维度——认知资本,或者说:思维能力的放大程度。
历史上,人与人之间的认知能力差异是存在的,但它有一个生物层面的均衡机制:人类大脑的硬件差异有限。最聪明的人和普通人之间,在单位时间内的思维处理能力上,差距是有上限的。这个上限让「认知能力」这个变量在社会分层中扮演了重要但有边界的角色。
智能体正在移除这个上限。
一个具备深度AI使用能力的人,和一个不具备这种能力的人,在同样的时间里能够处理的认知任务,能够调用的知识深度,能够做出的决策质量——这个差距正在迅速扩大,而且还没有看到收敛的迹象。
三、认知放大的不平等:为什么这一次不一样
每一次技术革命带来的不平等,历史上都有过类似的讨论。工业革命让机器拥有者和劳动者之间的差距扩大;互联网让有信息渠道的人和没有的人之间产生了「数字鸿沟」。但这两次,不平等最终都在一定程度上收窄了——因为技术有其自身的扩散逻辑,随着成本下降、基础设施普及,曾经的门槛逐渐降低。
为什么我觉得认知放大的不平等,可能在性质上不同?
第一,它在运作层面更深。工业革命的不平等,主要运作在「你能做什么」的层面——有没有机器,决定了你能生产多少。数字鸿沟的不平等,运作在「你能获取什么信息」的层面。认知放大的不平等,运作在「你怎么思考」的层面——不是你能获取什么,而是你用什么质量的思维过程在处理你获取的东西。
这是一个更难被「普及」消解的不平等,因为它嵌入在思维方式本身里,而不是嵌入在工具的有无里。
第二,它有自我强化的机制。经济资本可以生息,文化资本可以转化为更多资本——布尔迪厄早就指出了资本的自我增殖逻辑。认知放大的不平等同样有这个特性,而且可能更强。一个被高质量智能体持续辅助的人,他做的决策更好,他积累的经验更有价值,他能接触到的机会质量更高——这些反过来让他更有能力利用更好的智能体。而一个被低质量工具替代思考的人,他的判断力在退化,他越来越依赖工具,越来越难以辨别工具给出的答案是否正确。
两条轨迹,起点的差距可能只是一台更好的工具和更好的指导,但随着时间积累,它们之间的距离会以复利的方式扩大。
第三,这种不平等目前很难被「看见」。经济不平等有GDP、基尼系数、收入分布可以测量。认知放大的不平等,目前没有成熟的测量工具,也没有被纳入任何国家的政策议程。它在发生,但它发生在一个还没有统计学语言来描述它的领域里。
四、信任:社会里最难被复制的东西
社会学里有一个长期被研究的核心命题:信任。
涂尔干研究了社会凝聚力——什么把一个社会维系在一起,而不是让它碎裂成相互算计的个体?齐美尔研究了货币经济里的信任逻辑,他指出现代社会的信任有一个根本性的转变,从「对具体的人的信任」转向「对系统的信任」——你信任银行,不是因为你认识银行的每一个员工,而是因为你信任整个金融监管体系。
现代社会的信任基础设施,是几百年来慢慢建立起来的:法律体系、职业认证、机构声誉、评级制度……这套东西的共同功能,是让我们能够和陌生人合作,能够把自己的利益托付给从未见过面的人和机构,能够在一个复杂的社会里正常运转。
智能体进入这个信任体系,带来的不是一个「如何信任AI」的技术问题,而是一个「信任基础设施需要如何被重建」的社会学问题。
你现在为什么会信任一个医生的建议?因为他有执照,执照背后有医学院的培训体系,医学院背后有医学知识的积累,执照的颁发背后有监管机构——这是一条很长的信任链,每一个环节都有制度在支撑。这个链条是经过几百年的试错慢慢形成的。
当一个智能体给你提供医疗建议,这条信任链在哪里?目前,大概是这样的:你信任提供这个智能体的公司,这家公司声称它的训练数据质量很高,它声称经过了安全审查——但这整个链条,比你信任一个有执照的医生的链条要脆弱得多,而且它的每一个环节都还没有成熟的社会性认证机制。
这不是一个可以忽略的问题。因为信任的失败,在社会层面的代价是巨大的。历史上每一次大规模的信任崩溃,都会产生深远的社会影响。如果智能体在大规模进入医疗、法律、教育、金融这些关键领域之前,没有建立起足够的信任基础设施,一次重大的失误就可能造成对整个技术的系统性信任危机。
更微妙的问题是:信任基础设施的建立,是一个社会过程,不是一个技术过程。它需要时间,需要经历失败和修复的循环,需要多方利益相关者的参与和博弈。而现在,智能体进入社会的速度,比任何社会性信任机制能够成熟的速度都快得多。
我们正在以我们信任基础设施还没有准备好的速度,部署一批需要被信任的系统。
五、规范从哪里来:一个还没有答案的问题
社会学里有一个概念叫「规范」——那些不成文的、但被一个社会或群体广泛遵守的行为准则。规范不是法律,它没有强制执行的机构,但它的约束力有时候比法律更强,因为违反规范会带来社会性的惩罚:被排斥、被嘲笑、被认为是不文明的人。
人类社会的规范是怎么形成的?是通过无数次真实的互动,通过观察哪些行为被接受、哪些行为受到排斥,通过代际传递,通过文化的沉淀。这个过程很慢,但它有自我修正的能力——当规范产生了明显的社会代价,它会被质疑,被修改,被替代。
智能体的行为规范,目前主要来自一个地方:训练时注入的价值观。
这是一件在人类历史上没有先例的事情。一批工程师和研究员,通过设计训练过程,实际上在为大量未来的行为设定规范——这个智能体认为什么是可以说的,什么是不应该说的,什么是「有帮助」,什么是「有害」。这些判断,以一种非常不透明的方式,被编码进了一个可能被数亿人使用的系统。
这不是在批评这些工程师和研究员——他们大多数都在认真思考这些问题,而且没有一个完美的答案。但这个事实本身,就是一个需要被认真对待的社会学问题:谁有权决定一个大规模使用的认知系统「应该相信什么,应该拒绝什么,应该推崇什么」?
历史上,规范的形成是一个分布式的、缓慢的、多方参与的过程。智能体的规范形成,目前是一个高度集中的、快速的、由极少数人主导的过程。这两种过程的性质差异,会产生什么样的社会后果,我们现在还不完全知道。
但有一件事,我觉得是可以说的:当一个社会里很大比例的人开始通过同样的几个智能体系统来获取信息、形成判断、做出决策,这些系统内嵌的价值观,会以一种前所未有的规模和速度,影响整个社会的认知分布。这和以前的任何媒体影响都不同——因为它不只是传播观点,而是在参与思维过程本身。
六、我在做的事情,和我感到不安的事情
我在「永乐学堂」做的事情,本质上是在试图回应这些问题的一个局部。
我们想做的,不只是让孩子「学会用AI」,而是让孩子能够理解AI在做什么、能够保持对AI输出的独立判断、能够用AI放大而不是替代自己的思维。这件事如果只有一部分家庭能做到,它就会成为认知不平等的新来源;如果能够足够广泛地发生,它就有可能成为某种均衡的力量。
但这两种结果,不是自然发生的,而是取决于具体的选择——谁来推动,用什么方式,触达哪些人群,以什么样的成本。
我在思考这个问题的时候,感到最不安的,不是技术本身,而是我们在面对这些社会学问题时的集体注意力分配。大量的讨论集中在「AI会不会取代工作」「AI如何提升效率」,而「AI正在如何重塑社会分层」「认知放大的不平等正在如何形成」——这些问题,在政策层面、在教育层面、在主流公共讨论里,还远远没有得到应有的严肃对待。
也许是因为它们太慢了,慢到感觉不紧急。
但慢的过程有时候产生的后果比快的过程更难逆转——因为等到它变得可见的时候,结构已经固化了,想要改变它的代价会大得多。
这是我觉得社会学家、教育工作者、政策制定者,都应该在现在就开始认真思考的问题。不是五年后,是现在。
下一篇,我们进入政治学的维度:在智能体世界里,权力从哪里来,到哪里去?