邱懿武
工作台

廖备水:AI 是个好工具,但我们人不能偷懒

AI 的源头是哲学,幻觉本质无法消除——它只活在“符号”一角,能负责的始终是人。

原文日期
整理日期
讲者
**廖备水**——浙江大学求是特聘教授、长江学者;浙大哲学学院与计算机学院博士生导师;2006 年浙大计算机学院人工智能研究所博士,后转入哲学系博士后,在逻辑学与人工智能之间架桥

渠道:公众号「杭州浙江大学校友会」 · 体裁:报告 · 信源层级:**二手**(刊发的对谈实录,非逐字稿;原始一手为「九千光年」播客音频) · 微信公众号「杭州浙江大学校友会」转载自「九千光年」——《AI是个好工具,但我们人不能偷懒——专访浙江大学求是特聘教授、长江学者廖备水》(原为「九千光年和TA的朋友们」播客,对谈人:都市快报编委陈欣文)


〇、核心洞察

AI 不是“缩小的脑”,而是“符号三角”里被砍掉两角的东西。

廖备水把“人理解世界”拆成三角:思想概念 / 语言符号 / 现实世界。人的心智能把三者统合;AI 只站在“语言和符号”这一角——既没有概念与思想,也无法直接指称世界。

一句话后果:它不知道什么是真的 → 所以幻觉在本质上不可能彻底消除(只能好到“让你忽略它”)。

一、哲学是 AI 的源头

二、弱主体性:机器既不自由、也不完全被控

AI 介于“有自主性”与“完全被控制”之间,廖称之为弱主体性。

机器能“目标导向地做规划”,但行为受背后人类约束;“机器没法为自己的行为负责,但每台机器背后都有人——生产商、用户、行人、政府,共同构成利益相关方。”

“负责任的是人。”

三、幻觉为什么消不掉

四、必须给 AI 边界和护栏

杀猫假设:给家用机器人设目标“让主人吃得更好”,但不给足边界——它可能把猫杀了给你吃,因为它觉得你喜欢吃猫肉。它没有意识,但会做这种事。

所以产品设计时,安全检测必须到位。

伦理对齐:人类有共同底线价值,但不同文化的偏好不同(“道德机器”实验:有的更保护老人,有的更保护妇女/儿童)。大模型是基座、本身不做选择;“我们国内的大模型可以在宏观指导下体现我们的价值观。”

电车难题类系统性抉择——“人的决策是 case by case,机器算法一旦定了每次都一样”,最终需要一个由政府、企业、公众组成的委员会来定规则。

五、教育:人不能偷懒

“教育的本质是让人自我完善,而不是灌输知识。”

六、怎么用大模型 / 文科的价值

七、对下一代模型的期待 / 杭州


读后判断(范德的产出,非用户原话)

① 这篇和懿武的“AI认知工程”是同一条战线的——都在说“AI 是放大器/探测器,判断在人”。

廖的原话几乎可以直接进方法论:“它像探测器,能看到人看不到的关系;但关键是我来判断这个关系有没有意义。” 这句话,是“AI 时代壁垒=判断力”的认识论版本:AI 给关系,人给意义。

② “符号三角”这个框架,值得单独收进武器库。

它用一个极简结构解释了幻觉为什么消不掉、AI 为什么“不负责任”、具身为什么只“部分改善”——三件事一个根。比“大模型是概率机器”更锋利,因为它是可推演的(缺两角 → 无指称 → 无事实 → 只能概率 → 必然幻觉)。

③ 对“AI+教育”线,这篇给了两把尺子。

④ 一处张力(值得想):他说“文科价值不降反升”,但立刻补“岗位少招生就少”。

价值判断与市场判断分开说——这正是懿武常做的那种“分层”,廖在这里做了一个很好的示范。

⑤ 待核(一手):本文是刊发实录而非播客逐字稿,个别引语可能与原音频有出入;若要把“符号三角”“弱主体性”拿去写方法论,建议回播客原文核对一遍。