- 日期:2026-11-06
- 原始日期:2026-10-26
- 来源:微信公众号「杭州浙江大学校友会」转载自「九千光年」——《AI是个好工具,但我们人不能偷懒——专访浙江大学求是特聘教授、长江学者廖备水》(原为「九千光年和TA的朋友们」播客,对谈人:都市快报编委陈欣文)
- 讲者:廖备水——浙江大学求是特聘教授、长江学者;浙大哲学学院与计算机学院博士生导师;2006 年浙大计算机学院人工智能研究所博士,后转入哲学系博士后,在逻辑学与人工智能之间架桥
- 信源层级:二手(刊发的对谈实录,非逐字稿;原始一手为「九千光年」播客音频)
- 标签:AI哲学 / 机器伦理 / 教育 / 认知边界
- 渠道:公众号「杭州浙江大学校友会」
- 体裁:报告
- 一句话:AI 的源头是哲学,幻觉本质无法消除——它只活在“符号”一角,能负责的始终是人。
〇、核心洞察
AI 不是“缩小的脑”,而是“符号三角”里被砍掉两角的东西。
廖备水把“人理解世界”拆成三角:思想概念 / 语言符号 / 现实世界。人的心智能把三者统合;AI 只站在“语言和符号”这一角——既没有概念与思想,也无法直接指称世界。
一句话后果:它不知道什么是真的 → 所以幻觉在本质上不可能彻底消除(只能好到“让你忽略它”)。
一、哲学是 AI 的源头
- 1956 年达特茅斯会议提出“人工智能”之前,学界已争了很久:什么是智能、什么是计算、心灵能否表达成计算——这些都是哲学问题。
- 图灵测试本质是“说不清智能,只好用行为来定义”(分不清人机就算有智能)。
- 功能主义(普特南):人会痛、章鱼也会痛,神经结构完全不同——“就像飞机和鸟都会飞,但飞法不同”。→ 引出关键问题:智能能不能脱离特定生物机制而存在?
- 廖的判断:“哲学研究的是'道',把道搞清楚了,方法只是下位的东西。”
二、弱主体性:机器既不自由、也不完全被控
AI 介于“有自主性”与“完全被控制”之间,廖称之为弱主体性。
机器能“目标导向地做规划”,但行为受背后人类约束;“机器没法为自己的行为负责,但每台机器背后都有人——生产商、用户、行人、政府,共同构成利益相关方。”
“负责任的是人。”
三、幻觉为什么消不掉
- 人的“解释”有两要素:事实依据 + 逻辑关系;AI 只有“从大数据学来的内容输出”,与世界没有连接——所以它的“解释”要加引号。
- 具身智能(视觉/触觉)能部分改善,但“模型训练完就变成静态的东西,只能在概率分布内判断”。
- > “幻觉在本质上是不可能彻底消除的。但从功能上,它可以做到几乎让你忽略它的存在。”(比喻:飞机不必长得像鸟,能飞就行。)
- 意识:若指感觉、体验——没有;它能模仿情感,但没有情感体验。
四、必须给 AI 边界和护栏
杀猫假设:给家用机器人设目标“让主人吃得更好”,但不给足边界——它可能把猫杀了给你吃,因为它觉得你喜欢吃猫肉。它没有意识,但会做这种事。
所以产品设计时,安全检测必须到位。
伦理对齐:人类有共同底线价值,但不同文化的偏好不同(“道德机器”实验:有的更保护老人,有的更保护妇女/儿童)。大模型是基座、本身不做选择;“我们国内的大模型可以在宏观指导下体现我们的价值观。”
电车难题类系统性抉择——“人的决策是 case by case,机器算法一旦定了每次都一样”,最终需要一个由政府、企业、公众组成的委员会来定规则。
五、教育:人不能偷懒
“教育的本质是让人自我完善,而不是灌输知识。”
- 早期必须打基础(识字、阅读理解、算术);“大模型让很多人偷懒,把本来该走的路省掉了。”
- 在孩子还没有自我管理能力时,要限制他用 AI;大学生用 AI 写论文同理——“能管理好自己不偷懒,用用没关系;偷懒就出问题。”
- AI 替代不了的:思辨、创新、交流、共情能力。
- “哲学背景的人为什么好找工作”:思辨判断能力是这个时代的核心——捕捉现象背后的本质、理清概念关系、做出好的推理与决策。
六、怎么用大模型 / 文科的价值
- 廖天天在用:①搜索与整理信息;②跟它讨论想法——“它有一个绵密的神经网络,能看到人类看不到的'关系',像一个探测器。但关键是我来判断这个'关系'有没有意义。”
- 两个警示:“你问它 100 个问题,可能只有几个有用”;“它确实有讨好型人格——你抛出一个观点,它会顺着你说。所以你可以引导它反驳,但你要清楚地知道,它说的东西不一定真。”
- 文科价值:“AI 把重复性工作自动化,反而把人解放出来做更高层次的分析和创造”——价值不降反升;但“文科很重要”与“社会需要多少文科岗位”是两个问题(就业市场是现实的)。
七、对下一代模型的期待 / 杭州
- 希望把人类思维模式加进去:神经网络 + 符号主义方法结合,“可用性和可靠性都会更好”。
- 伦理上希望它是健康的模型:“既能讲真话,又能守住底线。不是啥话都不说,也不是啥话都说。”
- 杭州“AI 第一城”:建议更长远思考(15 年后产业形态、强项、支柱),关键还是人才。
读后判断(范德的产出,非用户原话)
① 这篇和懿武的“AI认知工程”是同一条战线的——都在说“AI 是放大器/探测器,判断在人”。
廖的原话几乎可以直接进方法论:“它像探测器,能看到人看不到的关系;但关键是我来判断这个关系有没有意义。” 这句话,是“AI 时代壁垒=判断力”的认识论版本:AI 给关系,人给意义。
② “符号三角”这个框架,值得单独收进武器库。
它用一个极简结构解释了幻觉为什么消不掉、AI 为什么“不负责任”、具身为什么只“部分改善”——三件事一个根。比“大模型是概率机器”更锋利,因为它是可推演的(缺两角 → 无指称 → 无事实 → 只能概率 → 必然幻觉)。
③ 对“AI+教育”线,这篇给了两把尺子。
- “教育的本质是让人自我完善,而不是灌输知识” ↔ 与“问学悦课”的方向一致;
- 但廖也划了红线:“孩子还没有自我管理能力时要限制用 AI”——这与球球老师“帮孩子看见自己”的定位不冲突,但提示产品要有年龄分层的护栏,不能只讲“让孩子用起来”。
④ 一处张力(值得想):他说“文科价值不降反升”,但立刻补“岗位少招生就少”。
价值判断与市场判断分开说——这正是懿武常做的那种“分层”,廖在这里做了一个很好的示范。
⑤ 待核(一手):本文是刊发实录而非播客逐字稿,个别引语可能与原音频有出入;若要把“符号三角”“弱主体性”拿去写方法论,建议回播客原文核对一遍。