全篇概述
这是 Stripe 联合创始人 John Collison 主持的播客《Cheeky Pint》第 39 期,标题即《Why Sam Altman is against a single superintelligence》。约一小时的对话里,奥尔特曼对主流 AGI 叙事提出了根本性质疑。
主流叙事把 AGI 想象成一个集中式、全知全能的超级大脑——一个足以接管一切复杂决策的孤立神祇。奥尔特曼的判断指向截然不同的方向:中心化智能必然带来绝对的单点风险,一旦目标漂移或未对齐,人类没有任何制衡手段。他要的是分布式——“智能体团队”(agent teams)而非“智能体蜂群”(agent swarms)。
这篇的独特价值在于:它同时是安全论述(为什么不能押注单体)、架构判断(多智能体协作如何互为监督),以及商业与硬件层面的两次“反共识反击”(别赌本地算力、放弃按 Token 计费)。
需要留意的边界:本篇为编译/详解的转述(二手),一手为节目官方逐字稿;文中大量数字(Navier-Stokes 证明约 1000 万美元、每吉瓦数据中心 5 年成本等)均为对话中的口头估算,非审计结果。
---
- 日期:2026-11-10
- 原始日期:2026-10-29
- 来源:播客《Cheeky Pint》第 39 期《Why Sam Altman is against a single superintelligence》(主持 John Collison,Stripe 联合创始人),2026-10-29 发布;节目页与官方逐字稿 阅读原文 |视频(X)阅读原文 |中文编译见 Datawhale(搜狐)、ExplainX 英文详解
- 渠道:播客(Cheeky Pint / Stripe)/转述见搜狐、ExplainX、flaviocopes
- 体裁:访谈
- 作者:萨姆·奥尔特曼(Sam Altman,OpenAI CEO);访谈人:John Collison
- 信源层级:二手(中文编译 + 英文详解转述;一手为官方逐字稿,本机未直取)
- 标签:AGI路线 / 智能体团队 / AI安全 / 算力经济 / Token定价
- 一句话:奥尔特曼反对“单一超级智能”叙事——他宁要一万亿个略超人类的 AI,也不要一个孤立的超级神祇。
一、别再迷信单一大模型:中心化 = 绝对单点风险
- 传统 AI 安全思路:建物理隔离与数字沙箱,假设人类能永远看守住模型。
- 他的反驳:面对智力全面超越人类安全专家的单一系统,安全沙箱最终必将失效。他透露 OpenAI 内部对“完全封闭模型的沙箱隔离”非常悲观,普遍认为在理论与工程上几乎无法实现。
- 循环依赖(关键):Collison 追问——能否用更强的模型反过来构建安全沙箱?奥尔特曼承认可能性,但指出致命循环:你想让超级系统帮你造沙箱,前提是你必须绝对确信它永远与人类意图对齐。在那一步走通之前,把安全押在单一超级大脑上“等于把整栋大厦建在沙滩上”。
- 他的原话:“如果你认真去设想一个比人类聪明一百万倍的单一超级实体,整个安全逻辑会变得极其脆弱。”
- 他给出的“安全阶梯”(三层,逐级递进):
- 沙箱有效,但只到某一点;
- 监控有效,但到更远的一点(看思维链、做“激活监控”,检查模型是否在骗我们);
- 最终你需要对“对齐”有巨大信心——相信模型会忠实执行操作者意图、珍视人类保持控制。
这是一位实验室负责人的重要坦白:在能力曲线的远端,“仅靠围栏(containment)”不是方案。
二、立刻转向多智能体协作:要“团队”,不要“蜂群”
- 核心判断:“我宁愿直觉上选择拥有一万亿个略超人类智能的 AI 加入社会,也不愿面对一个拥有一万亿智商的孤立超级系统。”
- 用词之争(很有意思):Collison 多次用 “agent swarms”(蜂群),奥尔特曼当场抗拒——“Swarm 听起来像蝗虫,并不吉利。” 他坚持用 “agent teams”(智能体团队)。
- 团队 = 明确的角色分工、相互审计、动态对弈、协同纠错;
- 蜂群 = 一大群同质化个体的无序涌现。
- 为什么更安全:“多智能体协作解决安全难题的方式,是用分布式共识替代单体自律。” 单个模型可能陷入偏执、或被某种未知优化目标劫持;但多个智能体在动态平衡中互为监督者与对手盘,整体方差反而更收敛。
- 类比:人类社会能坚韧演进数百年,靠的是制度层面的权力分立、相互制衡、多元纠错,而非某个全知全能的“完美哲人王”。
- 它已发生:最前沿的数学探索与底层攻防已在全面采用 agent teams,而普通企业应用还停留在“调用单模型”的初级阶段。
- 市场错位(他说得很直白):“有更多公司的问题是AI 用得不够,而不是用得太多。”(“There are more companies with the problem of not using enough AI rather than using too much AI.”)
三、用高算力换深度推理:内部通道「Hold My Beer」
- 内部测试通道代号「Hold My Beer」:专门让工程师把最疯狂、最不可能解决的研究难题投喂进去,观察模型极限。
- Navier-Stokes 方程:单道数学证明任务消耗约 1000 万美元算力,数千个 Agent 连续数日协作攻坚(Collison 概括整体为“数亿美元量级”,奥尔特曼认可)。
- 那段私人时刻:模型跑出突破的那几天,他连续两夜兴奋得睡不着,紧接着涌上心头的却是强烈的肃穆与伤感(因为这意味着人类科研的底层回路要重写了)。
- 从黑箱到门径:团队最初完全不知道如何给多智能体团队分配算力——是该选参数最大的单体模型,还是部署更多分工明确的并发副本、给更长推理步数?scaling law 当时一片黑箱。死磕 Navier-Stokes 之后,他们第一次摸到深度推理的算力配置门径。
- 成本在暴跌:同等难度的计算成本正以百倍速度锐减;他赌一年后能用 1/100 的成本重做 Navier-Stokes。
- 一个未解的伦理张力:OpenAI 内部跑出的数学证明已七百多份(他暗示实际更多),但绝大多数未公开——因为要在“重大基础科学应共享”与“数学家毕生追求的乐趣与职业尊严”之间权衡。
四、两次“反共识反击”:硬件与商业
1. 别赌本地算力——算力必在云端
- 被戳破的幻想:开源社区认为,随着芯片算力普及,用户会在自己的 PC 上完成一切推理,数据中心将不再需要。
- 他的反驳(资源错配论):把有限的高性能 DRAM 显存分散在个人电脑里是严重的全球资源错配——“世界稀缺的高速显存如果被买回家,每天只有 5% 时间激活,95% 闲置。” 在供应链受限的现实下,要追求极致吞吐,算力与显存必须集中在云端。
- 供应链的“肌肉记忆”:DRAM 厂商历史上经历漫长微利与破产周期,导致它们面对爆发的 AI 需求时仍不敢激进扩产,反过来加剧短缺。为此 OpenAI 已深度涉足自主芯片设计(用大模型辅助生成芯片设计文件),以自建硬件对冲风险。
2. 放弃“按 Token 计费”——它是“带虚假成分”的单位
- 他的判断:“Token 从商业价值角度看并不是一个好单位,甚至带有虚假成分。”
- 为什么:传统问答场景里“输出多少 Token”勉强对应工作量;但多智能体长程协作中,模型内部做大量自我反思、多轮推导、分支探索,最终交付给用户的可能只是一个轻量结论——此时按表面生成的 Token 计费,完全无法衡量背后的算力消耗与商业价值。
- 新的度量单位:“每吉瓦算力产生的收入”(Revenue Per Gigawatt)。把电能与芯片转化为有效智能的综合成本必须持续下降。
- 一个参考数字:每吉瓦数据中心五年总拥有成本高达数百亿美元(他说约 700 亿/吉瓦,并称“200 亿会更好”)。
- Collison 的对照:Stripe 的 token 支出约占 OpEx 的 1%;奥尔特曼答“这太低了”。Collison 预期会到 5%→10%→20%,奥尔特曼说很多公司会停在 OpEx 的百分之几十(并自嘲“因为我在推销我的书”)。
五、给工程师的几条“可搬走”
- 奖励结果,不奖励 Token 数:OpenAI 内部对算力“极宽”,但“我们努力绝不奖励用得多的人。没有 Token 排行榜。上了 Token 排行榜其实是件稍有负面的事,尤其是晋升时。”
- 留一手“工具挂了也能干活”的本事:他讲了个真实时刻——OpenAI 出了 SEV,Codex 挂了,Collison 开玩笑“结果大家都忘了怎么写代码”。他的回答:“没到那个程度,但那感觉像'哇,要是真用不了怎么办?'”
- 给智能体团队一个“预算句”:不要说“别花超过 1 万美元”,而要说 “用 1 万美元算力,尽你所能做到最好”——“是的,它能理解。”
- 先探索、再让复跑变便宜:“我们故意让它在数学上失控了一周”——先用最强模型探清问题边界(因为 2 美元的预算会在你看清问题前就叫停),形状清楚后,重复部分换便宜模型跑。
六、终局:下一波红利在物理基建
- 他对“递归自我改进”的定义直接指向物理:让 AI 控制具身机器人 → 接管先进制造工厂 → 生产光伏板与涡轮机 → 建设能自我繁衍的数据中心——摆脱“把递归狭隘理解为大模型天天分析自身代码”的局限。
- 当数据中心能自我建造、芯片能自我迭代、清洁能源能自主铺设时,单位算力成本的底线才会真正被击穿。 那时,构建在数万亿个智能体之上的多维社会,才拥有真正的算力地基。
整理者的分析
标注:以下为整理者(范德)的分析,非奥尔特曼原话,不代表其立场。
- 这期与前几场撞在同一条线上,但补上了“组织形态”这一环——阿莫迪说“守住 5% 判断力”、吴恩达说“AI 把人变全栈”、李斯特说“稀缺的是筛选”、海北有鱼说“抗冲击 = 人类层 × 需求弹性”。奥尔特曼补的是:智能本身该以什么形态组织——不是单个神祇,而是“有角色分工、相互审计”的团队。
- “智能体团队”这套说法,几乎是给“AI 组织管理”发了一份官方说明书——角色分工 + 相互审计 + 动态对弈 + 协同纠错,这四样恰好是人类组织的设计原则。对造物云的含义:你调度的不是一个 Agent,是一支“有制衡的团队”——这与你既有的“花名册 + 编排协议”是同一件事。
- “分布式共识替代单体自律”,是一条可以借来的判断结构——它解释了为什么“多 Agent 互审”在质量上也优于“单模型自省”:把方差收敛,靠的是制衡,不是更强的单点。
- “Token 不是好单位、要看每吉瓦收入”这条,对任何在做 AI 成本核算的人都是硬提醒——按表面产出计费,会系统性低估长程推理的真实成本。这与李丰那场“Token 成本是最大商业化约束”是同一个硬币。
- “别赌本地算力”这条,和他的 RAM 争议一脉相承——同一逻辑(稀缺显存不该分散闲置)推出同一结论(算力该集中云端)。这条与“端侧 AI”路线直接对立,值得记住这是个有争议的判断,不是定论。
保留意见:① 本篇为编译与详解的转述(二手),一手为《Cheeky Pint》官方逐字稿(本机未直取),引用具体措辞前建议回原逐字稿核对;② 文中所有金额均为对话中的口头估算,非审计结果(Navier-Stokes 约 1000 万美元/道、700 亿/吉瓦等);③ 奥尔特曼是当事方(OpenAI CEO,且正推进自研芯片与机器人),其判断与自身利益强相关;④ “AI 找到重大漏洞”“数学证明 700 份”等属其本人的说法与计划,未附独立验证,宜作“当事人口径”理解。