00:00:00.000上一期提到 别再给企业agent分角色了
00:00:02.560把人类的组织架构复制给AI
00:00:04.680很可能是在把人类公司的低效也交给AI
00:00:07.560硅谷一些公司面向全体员工
00:00:09.800只保留一个统一的agent入口
00:00:12.040并没有先按销售 研发 客服划出一堆角色
00:00:15.800评论区立刻有人问
00:00:17.360所有人共用一个agent系统的上下文不会爆炸吗
00:00:20.320这种担忧来自我们使用本地cloud code或codex的经验
00:00:23.840我们习惯打开一个终端 拉起一段单线对话
00:00:26.680所以一听全公司共用
00:00:28.320脑子里很容易出现这样的画面
00:00:30.160几百个人挤在同一个聊天窗口里
00:00:31.960销售在查客户资料 研发在改底层代码
00:00:34.840客服在调功单记录 信息越滚越大
00:00:37.320最后agent因为过载而崩溃
00:00:39.360但Sierra、Anthropic和Shopify最近公开的架构
00:00:42.640走的是另一条路
00:00:43.920先看Anthropic的cloud tech
00:00:46.400在整个slack工作区里
00:00:47.760员工呼唤的始终是同一个名字
00:00:49.960atcloud 但统一的名字只是统一入口
00:00:53.040员工在频道或线程里交给cloud一项任务时
00:00:56.000系统会为这段conversation启动临时沙箱
00:00:58.720承载这项工作的代码和文件
00:01:00.640不同线程保存各自的讨论和任务过程
00:01:02.920所以从使用体验上看
00:01:04.440大家at的是同一个cloud
00:01:05.960背后的工作却沿着各自的conversation分开推进
00:01:08.840一个线程正在排查线上故障
00:01:10.920另一个线程正在筹备项目录演
00:01:13.000统一的是交互入口
00:01:14.480隔离的是一件件具体的工作
00:01:16.280一个agent绝不等于一段全公司共享的上下文
00:01:19.400把cloud tech、Sierra的pinecon
00:01:21.560和Shopify的river放在一起看
00:01:23.480会发现它们都有类似的结构
00:01:25.280员工面对一个稳定的agent入口
00:01:27.040一件真实工作被触发后
00:01:28.640系统为它建立专属的session
00:01:30.480可以用医院急诊大厅来理解
00:01:32.320agent向医院统一的急诊入口
00:01:34.680无论遇到什么问题
00:01:35.760所有人都从同一扇门进入
00:01:37.520接着以后
00:01:38.240每个人都会建立自己的病历、症状、检查和处理过程
00:01:41.760都围绕这个人持续记录
00:01:43.480这份围绕一件事情持续保存的病例就是session
00:01:46.760Sierra将这种结构贯彻得很彻底
00:01:48.880pinecon最主要的工作单元就是session
00:01:50.880员工提交任务后
00:01:51.880系统会围绕这项任务
00:01:53.160准备相应的代码仓库
00:01:54.520运行环境、模型和agent harness
00:01:56.840同一个pinecon入口背后
00:01:58.320可以同时运行大量互补混杂的session
00:02:00.840Sierra600名员工
00:02:02.000一个月内创建了超过75,000段session
00:02:04.680Shopify也是如此
00:02:05.880员工在slag里看到的是同一个
00:02:07.920atriver
00:02:08.720但在30天内
00:02:09.760Shopify运行了59918段river session
00:02:13.400所以全公司共用的从来不是一段对话历史
00:02:16.640大家共用的是同一个入口
00:02:18.200以及入口下面那套
00:02:19.360不断创建和管理session的系统
00:02:21.520到这里上下文会不会相互混杂
00:02:23.800已经有了第一层答案
00:02:25.120不同的事情进入不同的session
00:02:27.280但session的价值不止在于把任务分开
00:02:29.640它还回答了一个更重要的问题
00:02:31.520一件工作开始以后
00:02:32.680它的上下文应该沿着什么边界继续
00:02:35.000按照员工划分
00:02:36.000按照部门划分
00:02:37.200还是按照产品、销售、数据和研发
00:02:40.320这些agent的角色来划分
00:02:42.040Sierra给出了一个很典型的案例
00:02:43.880一名销售工程师正在准备客户demo
00:02:46.240这听起来像一项标准的授钱工作
00:02:48.400但准备过程中
00:02:49.440他发现demo和生产环境的表现不一致
00:02:52.040顺着线索继续调查
00:02:53.280问题进入了产品实现
00:02:54.880最后这项工作产生了一个
00:02:56.560用于修复问题的pull request
00:02:58.560它起初向授钱任务
00:02:59.880中间变成产品调查
00:03:01.280最后进入代码修复
00:03:02.880但从头到尾目标都没变
00:03:04.920把这次demo跑通
00:03:06.400真实任务不会按照公司的组织架构前进
00:03:08.600它不会走到一个部门门口就停下来
00:03:10.640重新命名再转交给下一个角色
00:03:12.920很多时候只有把事情真正做下去
00:03:15.240我们才知道下一步需要什么能力
00:03:17.680所以Cierra的设计
00:03:19.160是让Session随着任务推进
00:03:20.920获得新的工具
00:03:22.080如果出现需要独立处理的代码问题
00:03:24.600它还可以开启新的编码Session
00:03:26.680复杂任务则可以由多段相互关联的Session共同完成
00:03:29.800角色当然仍然存在
00:03:31.440销售 产品和工程
00:03:33.200依然代表不同的知识 能力 责任与权限
00:03:36.320但角色不再负责切断同一件事情
00:03:38.520准备demo时
00:03:39.320Session可以调用授钱信息
00:03:41.200发现产品问题后可以增加调查工具
00:03:43.800需要修改代码时再进入工程环境
00:03:46.320需要的能力跟着问题变化
00:03:48.200任务的目标和历史则由Session持续保存
00:03:51.440用医院的比喻来说
00:03:52.880病人可能先去内科检查
00:03:54.440后来做影像检测 最后由外科处理
00:03:56.840医生和设备不断变化
00:03:58.200病例却始终跟着同一个人走
00:04:00.160病人不需要每换一个科室
00:04:01.520就把此前发生的一切从头讲一遍
00:04:03.720Session跟着任务走
00:04:05.120专业能力在需要时加入
00:04:06.920不过这里还藏着第二个问题
00:04:08.640不同任务确实被隔离了
00:04:10.640可一项重要任务如果持续几小时
00:04:12.600甚至几天
00:04:13.480他自己的Session不也会越来越长
00:04:15.360最后触及模型的上下纹极限吗
00:04:17.520答案藏在另一个拆分里
00:04:19.160Session也不等于模型当前的上下纹窗口
00:04:21.440Anthropic在Manage Agents的设计中
00:04:23.720把两者明确分开
00:04:25.120Session负责持久保存一项工作发生过的事件
00:04:28.360模型每次开始推理时
00:04:29.880由Harness从这些记录中
00:04:31.760读取 筛选和组织当前步骤需要的部分
00:04:35.120继续用病例来理解
00:04:36.960Session是档案室里保存的完整病例
00:04:39.560上下纹窗口是医生这一次看诊时
00:04:41.960摆在桌面上的相关材料
00:04:43.600完整病例可以继续积累
00:04:45.360医生这一次不必从第一页读到最后一页
00:04:47.600只需要调取与当前判断相关的记录
00:04:50.320为此Anthropic把长期运行的Agent
00:04:52.960拆成三个部分
00:04:54.160Session、Harness和Sandbox
00:04:56.320Session保存任务的历史和状态
00:04:58.320Harness读取记录 组织当前上下纹
00:05:00.960调用模型并处理工具请求
00:05:03.280Sandbox提供代码和工具实际运行的临时环境
00:05:06.120Harness可以重启或者更换
00:05:07.840Sandbox可以被销毁 需要时重新创建
00:05:10.360Session独立保存
00:05:11.560新的Harness重新读取事件记录
00:05:13.640就能从上一次停止的地方继续工作
00:05:15.920CloudTag也采用了类似的生命周期
00:05:18.160任务闲置一段时间后
00:05:19.640临时Sandbox会被释放
00:05:21.280Slike里的工作线程仍然保留
00:05:23.320之后有人继续回复
00:05:24.760系统可以重新创建执行环境
00:05:26.920继续这项工作
00:05:28.320Shopify用一句话概括了这套设计
00:05:30.520Session必须活下来
00:05:31.880进程会结束 Sandbox会消失
00:05:34.000执行任务的机器也可能发生变化
00:05:36.040但Session保存的任务身份
00:05:37.680历史和状态必须能够重新找回来
00:05:40.320River是员工在Slike里看到的入口
00:05:42.520水面之下的Aquifer平台
00:05:44.200负责让一项工作穿过进程和环境的生灭
00:05:47.040仍然保持连续
00:05:48.200现在再回头看这三家公司的实践
00:05:50.320就会发现
00:05:51.120他们没有制造一个
00:05:51.960能塞下无限上下文的超级agent
00:05:54.120他们把过去紧紧绑在一起的东西拆开了
00:05:56.320agent是员工看到的入口
00:05:58.360每项任务拥有自己的Session
00:06:00.360模型每次只读取当前需要的上下文
00:06:03.600Harness组织并驱动这一轮执行
00:06:06.480Sandbox提供临时工作环境
00:06:08.600长期保存的是那件尚未完成的工作
00:06:11.520它为什么开始
00:06:13.000已经发生了什么
00:06:14.200现在走到了哪里
00:06:15.640还差哪一步结束
00:06:17.080所以一个agent服务全公司
00:06:19.640并不意味着所有人共享一段混乱的上下文
00:06:22.840不同的事情被分进彼此隔离的Session
00:06:25.560同一件事情
00:06:26.640则可以跨越角色
00:06:28.080进程和运行环境
00:06:29.440一直推进到完成
00:06:31.000评估一个agent能不能服务好整个组织
00:06:33.560关键不在于它一次能记住多少东西
00:06:36.160关键在于
00:06:37.120它能不能让不同的事情互不干扰
00:06:38.880又让同一件事情不再半路丢失