- 日期:2026-10-05
- 来源:阅读原文
- 讲者:Jeff Dean(谷歌首席科学家,MapReduce/BigTable/TensorFlow/TPU/Gemini 核心人物);原访谈:YC《Jeff Dean: The 1% Rule for Building in AI》(57 min)
- 信源层级:二手(原始出处:YC 视频《Jeff Dean: The 1% Rule for Building in AI》;数字待核)
- 标签:AI前沿 / 创业方法论 / Agent工程
- 渠道:微信公众号
- 体裁:访谈
- 一句话:找“模型成功率 0-1%”的问题去做——因为 20% 的问题,下一次模型升级就把你护城河冲平了。
⚠️ 本文为二手编译(公众号整理 YC 英文视频)。具体数字与“1%法则”的完整语境,引用前建议回一手核对。原始视频可回溯。
一、AI 已是“初级工程师”,进步比预想还快
- 2025 年 5 月 Jeff 预测“AI 已达初级工程师水平”,一年后准确——模型在“基于 agent 的长链条编程任务”上进步明显。
- 他低估了两件事:① 处理复杂任务的能力增长更快;② agent 系统在编程之外也开始发光。
- 2027 预测:ML 系统的自我自动化——“让 ML 系统通过跑大量实验自我提升:把问题拆成子问题,在紧凑的自动实验循环里跑,再把结果拼成改进后的系统。”任何有“可衡量目标”的领域(科学、工程)都能这么加速。
- 已内化的事实:高能力模型驱动的 agent,某些问题上能连续跑几天甚至几周。例:“让 agent 用另一种语言从头实现一套更安全/更高性能的软件,它真能认真做出来。”
二、历史会押韵:2001“装进内存”时刻,今天轮到推理硬件
- 2001 年谷歌搜索还跑在硬盘上,Jeff 和 Sanjay 一算:整个搜索索引刚好能塞进所有机器的内存 → 几天内上线“内存版”搜索,这是谷歌搜索快到飞起的起点。
- 2026 年的“装进内存时刻”= 高性能、低能耗的推理硬件:“所有人都开始意识到,推理才是让 agent 系统触达更多人的关键,而延迟极其重要。硬件专门化是做到更低能耗、更低延迟的关键路径。”
- 诱人设想:“如果延迟能好上 50 倍,你能做出什么?”
三、餐巾纸估算与 TPU 的诞生
- 餐巾纸估算(napkin math):用最粗的算术看穿本质。
- TPU 起源:2013 年语音识别刚在谷歌跑通(深度学习把错误率砍半,相当于“几个月的进步抵语音识别 20 年”),Jeff 一算——若每人每天用语音 3 分钟,谷歌得把整个服务器机群翻倍,贵到离谱。
- 于是造了颗只会做“低精度稠密线性代数”的专用芯片(连 Chrome/Word 都跑不了),但这恰是现代 ML 的核心。结果:能效比当时 CPU/GPU 高 ~3080 倍,延迟低 ~2030 倍。而且这是在 Transformer 被发明之前就做出的押注。
- 给创业者的“今晚就能算”建议:“盯着你关心问题的瓶颈,看有没有完全不同的解法,能带来一个甚至两个数量级的提升。别被'现在大家都怎么解'锚住,从第一性原理去想。”
四、agent 为什么会“跑飞”,怎么救
- 现象:走到第 30、40 步,agent 开始不听话。
- 根因:出了训练分布(out of distribution)——“一旦稍微偏离它熟悉的分布,表现就像大多数 ML 模型一样突然退化;越偏离舒适区越容易出问题。”
- 三层对策:
- 写 skill 和提示,把它“拽回”熟悉的明亮路径;
- 多智能体系统:多个 agent 试不同解法,再用另一个模型/agent 评估谁更靠谱,留好的、丢跑飞的;
- 推理时计算(inference-time compute):在多种可能解法上做搜索——提升长链条 agent 可靠性的通用利器。
- 谷歌内部就这么做:给 agent 配一整套 skill 让它们会用内部工具(写代码、code review、测性能、抓日志),即便基础模型没在这些私有系统训练过,靠对的 skill 定义也能跑通。
五、上下文工程:人人都能上手的新战场
“模型只是整个系统的一块拼图。 真正要建的,是一个能调用工具、能检索信息、能把相关内容放进上下文的整体系统。”
- 门槛极低:“你只需要一个 API,然后打磨自己的检索、自己的工具调用。”
- 怎么变强:在失败中迭代——用模型解决真实问题,观察它在哪失败,再给它写 skill,系统进入自我改进循环。
- Jeff 自己的例子:和 Sanjay 常做底层库性能优化,于是写个 skill,把“跑基准→改代码→再测→迭代”这套专家打法教给模型,让它自动反复优化性能。“这本质上就是把我们人类会用的方法,用模型能理解的形式交给它。”
- 彩蛋:他们公开了一份约 30 页《性能优化提示》,已有人喂给模型显著提升其对代码性能的推理能力。
六、创业者该做什么:锋利的「1% 法则」
“找那种模型成功率是 0% 或 1% 的问题,而不是 20% 的。”
冷酷逻辑:
- 模型现在能做对 20% → 说明能力已在萌芽,再多点数据/模型,半年一年它就自己会了,你的护城河被下一次升级冲平;
- 模型现在 0% 或 1% 完全做不了 → 那才是真正持久的机会。
- 配套追问:“你做的这件事,前沿模型会在 6 个月、12 个月内学会吗?还是三年内都做不到?” 想清时间窗再投入。
两条“1% 型”路径:
- 模型拿不到的数据——如帮用户整理他自己的个人信息(谷歌在“组织全世界的信息”,但“组织你的个人信息”是敞开的)。通用模型没这份数据的访问权,你的产品有,这就是天然优势。
- 专精模型——如 AlphaFold(蛋白质折叠),不是通用模型而是极窄极准的专用模型,一举拿下整个领域。他认为材料科学、芯片设计也有 AlphaFold 式机会。
坦诚提醒:谷歌把 Gemini 做成“几乎什么都能干”的通用模型,但正因如此,对很多具体垂直领域反而没那么关注——这就是两三个人的小团队能赢的地方:为一个你真正热爱的领域,做出体验极佳、精度极高的东西。
七、当 agent 写完所有代码,稀缺的是「品味」
- 未来创始人会同时指挥 50 到 100 个 agent,管理关键是写清晰干脆的规格(spec):“你说得越清楚,agent 越知道朝什么目标努力;越含糊,它就只能猜——而它猜的往往和你想的不一样。”
- 反差极大的正例——代码翻译:让今天的模型把 Python 翻成 Go,效果出奇地好。为什么?“整份软件本身就是一份极其详尽的规格”,模型可以把测试也翻过去、逐一比对行为差异,直到完全一致。
- 写代码被接管后,真正稀缺的技能“上移”了——品味(taste):
- 品味怎么练(三法):① 靠经验(做过足够多不同问题);② 写预测再复盘(把“未来 12 个月重要的事”写下来,一年后回看——给自己的品味攒样本);③ 做疯狂的思想实验。
- 例:芯片业 60 年拼可靠性——“如果反过来,故意用每天出 20 次错的、极不可靠的晶体管去造系统,会怎样?”听起来疯狂,但这正是大规模分布式系统的思路:用不可靠部件在更高层构建可靠整体(像用会坏的硬盘搭出永不丢数据的文件系统,像人脑用不可靠神经信号完成可靠传递)。MapReduce 正是这种“眯着眼重新看问题”的产物。
“关键是对'该让 agent 去做什么'有极好的品味。研究者手握所有工具,但胜负手往往在于——你到底把时间花在哪个问题上。把平庸问题执行得再漂亮,也不如选对一个真正重要的问题。”
八、AI 造 AI:把科学方法本身自动化
- Jeff 在做的系统(AlphaChip 自动布局芯片、AlphaEvolve 自动提出并评估解法)都指向同一方向:
- 关键往往是让“评估”这一步足够快。惊人例子:同事把原本要“算一整晚”的量子化学模拟器用神经网络做近似——速度快 30 万倍,精度几乎不变。原本要攒半年算力才能筛完的东西,“吃个午饭的功夫”就筛完了。这会彻底改变做科学的方式。
“提出实验 → 实现它 → 评估结果,这个循环如果能自动化、并把延迟压到极低,就能同时加速机器学习、科学和工程。”
九、被拒的论文 & 给年轻人的建议
- 2014 年知识蒸馏论文(Jeff + Hinton + Vinyals,用大“教师”模型训出更小更省的模型)——如今全行业在用(Gemini Flash 就靠它)。当年被 NeurIPS 拒,理由:“不太可能有重大影响。”
- 判断标准(三个):“你是不是在做你真正在乎的事?能不能和你喜欢的人一起推进?如果做成了,世界会不会因此变好一点?”
- 终极自检:“如果我做这个问题,且最好的结果发生了,世界会因此大不一样吗?还是只会'嗯,挺酷,但也就那样'?”如果是后者,就不该把时间花在上面。
- 与聪明人共事:找技能互补 + 低自我(low ego) + 你打心底喜欢相处的人。
- “一条不断变长的工具带”:你永远不知道哪天会遇到需要“这四种专门工具而非那三种”的问题——工具越多,未来的问题越可能被你解决。
“被拒也没关系。我们放到 arXiv 上,大家照样读、照样用,挺好。”——哪怕被拒,也继续往前走。
结尾——他希望你去解决的问题:更高效的推理硬件;数据效率极高的新算法(“今天的大模型见过的数据约是一个 18 岁人类的 1000 倍,可这个 18 岁的人在很多事上还更强。能不能做出从自身行动中持续学习的系统?”);持续学习、多智能体协作;甚至帮全世界的人更文明地对话。
读后判断(范德)
这篇是今晚所有 AI 文章里“密度最高、最可操作”的一篇。 三条对造物云/我们最直接的:
- “1% 法则”是一把可直接拿来筛项目的刀。 造物云做 AI+教育——我们手上的方向,模型现在是 0-1% 还是 20%? 如果是 20%(通用能力已萌芽),我们是在给“下一次模型升级”做嫁衣。能撑住的护城河只有两条:模型拿不到的数据(用户个人信息/教育场景专有数据)+ 极窄极准的专精能力。 这跟 a16z 的“窄赛道”、红杉的“垂直 NeoLab”是同一判断。
- “上下文工程”就是我们的主战场,而且 Jeff 给的方法论和我们完全同构。 “模型只是拼图的一块”,“把人类会用的方法用模型能理解的形式交给它”——这不就是 Skill 的本质吗? Jeff 和 Sanjay 写个性能优化 skill 教模型自迭代,跟我们的 skill-forge、Agent 团队是同一件事。 我们的方向被谷歌首席科学家背书了。
- “品味”是 agent 时代的稀缺品——这条对懿武本人最重要。 当写代码/执行都被 agent 接管,胜负手变成“你把时间花在哪个问题上”。你反复说的“判断力是壁垒”,在这里被 Jeff Dean 用“taste”印证了。而且他给了练品味的具体方法:写预测再复盘——这正好可以嫁接到我们的记忆/判断系统(每年写一版“未来 12 个月重要的事”,年底回看)。
待反驳/边界:Jeff 的位置是“手握 TPU/最强模型/无限算力”的谷歌首席科学家,他的“1% 法则”对有大资源、长周期的团队最友好;小团队若真选 0% 问题,可能等不到它变可行就饿死了——需要配上“现金流业务养命”的组合。另:文中数字(3080 倍、30 万倍、1000 倍)为编译转述,引用前回一手。