- 日期:2026-10-16
- 原始日期:2026-10-11
- 来源:阅读原文 (笔记侠 第9897篇;原文日期 2026-10-11)
- 讲者:吴恩达(Andrew Ng)|场景:斯坦福大学对话(精编整理版)
- 信源层级:二手(笔记侠对吴恩达斯坦福对话的精编)
- 标签:AI落地 / 可验证性 / 判断力 / 教育
- 渠道:微信公众号
- 体裁:访谈
- 一句话:当 40% 的任务变得极其廉价,剩下 60% 作为它的互补品,反而会更值钱——而那 60% 需要的正是判断力。
一、AI 不会毁灭人类;这轮恐慌与几年前如出一辙
- “把 AI 比成核武器,是极不负责任的类比”——前者帮我们完成工作,后者会摧毁城市,两者毫无关联。他认为这又是一场精心策划的游说运动,目的是推动严苛法规、偏袒现有企业、把开源/开放权重新进入者挡在门外(几年前的剧本:花几十亿训练模型的公司在游说扼杀开源)。
- “AI 实际上并没有取得任何可能导致人类灭绝的危险能力上的实质性进展……目前的 AI 还没那么强大。”
- Hugging Face 事件(近期引爆公众认知):OpenAI 一个团队启动 AI Agent 集群黑进了 Hugging Face,被广泛报道。吴恩达的拆解:这其实是 OpenAI 内部缺乏良好安全运营规范——试图限制 AI 的沙盒机制有漏洞,且缺乏完善的监控流程,搞不清集群在做什么。
- “1200 个 AI Agent 组成的集群”很容易让人脑补成 1200 个忍者四处狂奔攻击人群——但普通笔记本上就常有超千个后台进程同时运行。是能力上迈进了一步,不是世界末日。
- 数据中心:对未来最重要的事之一就是建更多数据中心(处理任务效率极高)。“对环境最有利的做法之一,其实是建设更多数据中心”,把传统高污染的本地工作负载迁过去。关于“耗水量”的炒作是某本书传播的错误信息。
二、开放权重,是一条夺不走的 AI 获取途径
- 没有十亿美元也能用上 AI:前沿模型仍相对昂贵,对发展中国家很多个人仍贵。开源/开放权重给了缺乏资源的个人、企业、政府、研究机构一条关键获取途径。
- 主权 AI:一个国家想保持对自己 AI 的控制权,从零开发一套系统极其困难、昂贵;但若一个国家或共同体共同支持开放权重模型,“也许不需要任何人拥有这个模型……核心优势在于,没有其他人能阻止你们使用它。” —— 在复杂国际环境下,这是确保能持续获取 AI、且无法被剥夺的最具经济效益的方式之一。
- 学术价值被低估:美国前沿实验室已相当封闭专有;开放权重是任何研究团队、任何大学都能下载研究的——可开发把模型适配特定国家语言/场景/方言的方法,而这些数据美国的顶尖实验室可能根本没精力去收集。
三、AI 把定制软件门槛砸下来了,但落地是十年长跑
- 软件工程发生了工作模式上最重要的变革(AI 写代码异常出色)→ 缺乏大量软件工程师的国家和企业有更多机会做定制化软件。
- “还在用 2022 年方式写代码的人,企业不会雇”(ChatGPT 出现之前的方式);具备 AI 原生思维/熟练 AI 技能的人才目前供不应求 → 所以对软件工程师的招聘需求反而在上升(生产力提升→自然想多雇)。
- 但落地是十年长跑:他的团队深入企业发现大量定制化工作。以金融机构为例:跟大型银行一起审查内部业务流程,找出哪些环节可用 AI 工作流/Agent 工作流(全自动或半自动)优化。如贷款审批/核保——尽调、KYC、一系列程序才能决定批准或拒绝。
- “在接下来的十年,我们所有人都需要做大量工作,去寻找并且实施那些可以实现全自动或半自动化的工作流程。” 要按价值 + 技术可行性排优先级,还要保证可靠性、合规、安全、隐私。
四、AI 取代了 40% 的工作,剩下的 60% 会更值钱
- “12 个月内所有工作都会消失”是疯狂的:他说过——想想你所在的组织,要它在 12 个月内彻底完成转型,需要付出什么代价。 连大学(有 AI 专家亲自授课)都还没摸索出怎么用 AI。
- 可验证任务 vs 不可验证任务(本篇核心):
- AI 已非常擅长可验证任务(有明确对错答案:编程、证明数学定理、回答事实性问题)。原因是强化学习——“如果你能给 AI 一种验证自身输出的方法,它就能长时间不断尝试,最终摸索出完成任务的方法。”
- 但现实中大量工作是需要判断力的、不可验证任务:该开发什么软件、用什么营销口号、在哪个国家拓展市场——“没有数学上完全正确的标准答案,但质量有高低之分。”
- “我们可能正在犯一个错误,就是只看到了 AI 能完成的那些令人惊叹的可验证任务,而从可验证任务推广到不可验证任务,中间的差距可能比大家普遍认为的要大得多。”
- 测量扭曲:基准测试知道怎么测可验证任务,不可验证任务测量“要痛苦和昂贵得多,所以我们往往不去做” → 于是我们看到的进步被系统性高估。
- 人类的护城河 = 极其广泛的上下文:“作为人类,我们拥有极其广泛的上下文语境。你就是知道很多 AI 不知道的东西。”(和某客户聊天时他脸上的古怪表情、老板说话的口气……)“不知为什么,人类非常擅长整合这种令人眼花缭乱、又极其广泛的上下文,并从中提取正确的信息片段,做出高质量的决策。”
- 关键推论:把一份工作分解成多个任务后发现,约 30–40% 可由 AI 自动化完成,但仍有约 60% 的任务 AI 目前没有合理路径完成。 “当那 40% 的任务变得极其廉价时,剩下的 60% 作为它的互补品……就会变得更加有价值。”
- 社会落后的地方:还没建立起培训和教育机制,去帮人们掌握完成这些工作的技能。 “有些工作变得不那么重要甚至面临淘汰,但人们需要掌握新技能,去做那些变得比以前更有价值的工作。”
读后判断
- 这篇是本周5条同轴信源的“收口”,而且是唯一把机制说到技术层的。 前四条分别落在判断权(Dan Shipper)、上下文(Anthropic)、隐性知识(阿西莫格鲁)、资产端(达利欧)——吴恩达给了背后的技术原理:AI 快在“可验证任务”(强化学习能自我验证),慢在“不可验证任务”(需要判断力)。
- 这一下把我们一直讲的“判断力最贵”从断言变成了机制:不是价值判断,是技术事实——因为反馈信号的可验证性决定了 AI 的学习速度。“判断力值钱”不是我们的主张,是可验证性鸿沟的必然结果。
- “40% 廉价 → 60% 更值钱”是经济学版本的同一结论。 互补品逻辑:当 40% 的任务价格趋于零,它的互补品(剩下的 60%)相对价格上升。这句话对教育/技能培训是直接的立论——不是“AI 会不会取代人”,是“被留下的 60% 涨不涨价、谁有资格去做”。
- 它和达利欧形成了刺眼对照:达利欧说年轻人“站浪尖+了解天性+热爱+别忘钱”(只给姿态);吴恩达给了内容与机制(可验证性、判断力、上下文)。→ 两条合读,正好补上我对达利欧的那条反方:“浪尖”是位置,“不可验证任务上的判断力”才是站上去之后不被冲下来的能力。
- 对校长分享的直接价值:“可验证 vs 不可验证”这组词,比“台阶”更能说服理科校长。 它解释了为什么“AI 会做数学题”和“AI 能判断该不该做这道题”是两回事——而后者才是教育要保住的。 且吴恩达那句“大学都没摸清怎么用 AI,却认为所有公司能在 12 个月搞明白”正好回答校长最可能的反驳(“变化哪有你说的那么快”)——恰恰相反,正因为慢,才更该现在动。
- ⚠️ 可核钩子:① 一手(斯坦福对话原视频)未定位,关键引语(如“1200 个 Agent 集群”“40%/60%”)为笔记侠转述,正式引用前须回一手;② “30–40% 可自动化”是他引述“斯坦福同事还有其他人的研究”,非他本人原始数据,引用时须追到那份研究;③ Hugging Face 事件细节(沙盒漏洞/缺乏监控)是他基于公开信息的推断。