1
00:00:00,000 --> 00:00:02,560
上一期提到 别再给企业agent分角色了

2
00:00:02,560 --> 00:00:04,679
把人类的组织架构复制给AI

3
00:00:04,679 --> 00:00:07,559
很可能是在把人类公司的低效也交给AI

4
00:00:07,559 --> 00:00:09,800
硅谷一些公司面向全体员工

5
00:00:09,800 --> 00:00:12,039
只保留一个统一的agent入口

6
00:00:12,039 --> 00:00:15,800
并没有先按销售 研发 客服划出一堆角色

7
00:00:15,800 --> 00:00:17,359
评论区立刻有人问

8
00:00:17,359 --> 00:00:20,320
所有人共用一个agent系统的上下文不会爆炸吗

9
00:00:20,320 --> 00:00:23,839
这种担忧来自我们使用本地cloud code或codex的经验

10
00:00:23,839 --> 00:00:26,679
我们习惯打开一个终端 拉起一段单线对话

11
00:00:26,679 --> 00:00:28,280
所以一听全公司共用

12
00:00:28,320 --> 00:00:30,160
脑子里很容易出现这样的画面

13
00:00:30,160 --> 00:00:31,960
几百个人挤在同一个聊天窗口里

14
00:00:31,960 --> 00:00:34,840
销售在查客户资料 研发在改底层代码

15
00:00:34,840 --> 00:00:37,320
客服在调功单记录 信息越滚越大

16
00:00:37,320 --> 00:00:39,359
最后agent因为过载而崩溃

17
00:00:39,359 --> 00:00:42,640
但Sierra、Anthropic和Shopify最近公开的架构

18
00:00:42,640 --> 00:00:43,920
走的是另一条路

19
00:00:43,920 --> 00:00:46,399
先看Anthropic的cloud tech

20
00:00:46,399 --> 00:00:47,759
在整个slack工作区里

21
00:00:47,759 --> 00:00:49,960
员工呼唤的始终是同一个名字

22
00:00:49,960 --> 00:00:53,039
atcloud 但统一的名字只是统一入口

23
00:00:53,039 --> 00:00:56,000
员工在频道或线程里交给cloud一项任务时

24
00:00:56,000 --> 00:00:58,719
系统会为这段conversation启动临时沙箱

25
00:00:58,719 --> 00:01:00,640
承载这项工作的代码和文件

26
00:01:00,640 --> 00:01:02,920
不同线程保存各自的讨论和任务过程

27
00:01:02,920 --> 00:01:04,439
所以从使用体验上看

28
00:01:04,439 --> 00:01:05,959
大家at的是同一个cloud

29
00:01:05,959 --> 00:01:08,840
背后的工作却沿着各自的conversation分开推进

30
00:01:08,840 --> 00:01:10,920
一个线程正在排查线上故障

31
00:01:10,920 --> 00:01:13,000
另一个线程正在筹备项目录演

32
00:01:13,000 --> 00:01:14,480
统一的是交互入口

33
00:01:14,480 --> 00:01:16,280
隔离的是一件件具体的工作

34
00:01:16,280 --> 00:01:19,400
一个agent绝不等于一段全公司共享的上下文

35
00:01:19,400 --> 00:01:21,560
把cloud tech、Sierra的pinecon

36
00:01:21,560 --> 00:01:23,480
和Shopify的river放在一起看

37
00:01:23,480 --> 00:01:25,239
会发现它们都有类似的结构

38
00:01:25,280 --> 00:01:27,040
员工面对一个稳定的agent入口

39
00:01:27,040 --> 00:01:28,640
一件真实工作被触发后

40
00:01:28,640 --> 00:01:30,480
系统为它建立专属的session

41
00:01:30,480 --> 00:01:32,319
可以用医院急诊大厅来理解

42
00:01:32,319 --> 00:01:34,680
agent向医院统一的急诊入口

43
00:01:34,680 --> 00:01:35,760
无论遇到什么问题

44
00:01:35,760 --> 00:01:37,519
所有人都从同一扇门进入

45
00:01:37,519 --> 00:01:38,239
接着以后

46
00:01:38,239 --> 00:01:41,760
每个人都会建立自己的病历、症状、检查和处理过程

47
00:01:41,760 --> 00:01:43,480
都围绕这个人持续记录

48
00:01:43,480 --> 00:01:46,760
这份围绕一件事情持续保存的病例就是session

49
00:01:46,760 --> 00:01:48,879
Sierra将这种结构贯彻得很彻底

50
00:01:48,879 --> 00:01:50,879
pinecon最主要的工作单元就是session

51
00:01:50,879 --> 00:01:51,840
员工提交任务后

52
00:01:51,879 --> 00:01:53,159
系统会围绕这项任务

53
00:01:53,159 --> 00:01:54,519
准备相应的代码仓库

54
00:01:54,519 --> 00:01:56,840
运行环境、模型和agent harness

55
00:01:56,840 --> 00:01:58,319
同一个pinecon入口背后

56
00:01:58,319 --> 00:02:00,840
可以同时运行大量互补混杂的session

57
00:02:00,840 --> 00:02:02,000
Sierra600名员工

58
00:02:02,000 --> 00:02:04,680
一个月内创建了超过75,000段session

59
00:02:04,680 --> 00:02:05,879
Shopify也是如此

60
00:02:05,879 --> 00:02:07,920
员工在slag里看到的是同一个

61
00:02:07,920 --> 00:02:08,719
atriver

62
00:02:08,719 --> 00:02:09,759
但在30天内

63
00:02:09,759 --> 00:02:13,400
Shopify运行了59918段river session

64
00:02:13,400 --> 00:02:16,639
所以全公司共用的从来不是一段对话历史

65
00:02:16,639 --> 00:02:18,199
大家共用的是同一个入口

66
00:02:18,199 --> 00:02:19,360
以及入口下面那套

67
00:02:19,360 --> 00:02:21,520
不断创建和管理session的系统

68
00:02:21,520 --> 00:02:23,800
到这里上下文会不会相互混杂

69
00:02:23,800 --> 00:02:25,120
已经有了第一层答案

70
00:02:25,120 --> 00:02:27,280
不同的事情进入不同的session

71
00:02:27,280 --> 00:02:29,639
但session的价值不止在于把任务分开

72
00:02:29,639 --> 00:02:31,520
它还回答了一个更重要的问题

73
00:02:31,520 --> 00:02:32,680
一件工作开始以后

74
00:02:32,680 --> 00:02:35,000
它的上下文应该沿着什么边界继续

75
00:02:35,000 --> 00:02:36,000
按照员工划分

76
00:02:36,000 --> 00:02:37,199
按照部门划分

77
00:02:37,199 --> 00:02:40,319
还是按照产品、销售、数据和研发

78
00:02:40,319 --> 00:02:42,039
这些agent的角色来划分

79
00:02:42,039 --> 00:02:43,879
Sierra给出了一个很典型的案例

80
00:02:43,879 --> 00:02:46,240
一名销售工程师正在准备客户demo

81
00:02:46,240 --> 00:02:48,400
这听起来像一项标准的授钱工作

82
00:02:48,400 --> 00:02:49,400
但准备过程中

83
00:02:49,439 --> 00:02:52,039
他发现demo和生产环境的表现不一致

84
00:02:52,039 --> 00:02:53,280
顺着线索继续调查

85
00:02:53,280 --> 00:02:54,879
问题进入了产品实现

86
00:02:54,879 --> 00:02:56,560
最后这项工作产生了一个

87
00:02:56,560 --> 00:02:58,560
用于修复问题的pull request

88
00:02:58,560 --> 00:02:59,879
它起初向授钱任务

89
00:02:59,879 --> 00:03:01,280
中间变成产品调查

90
00:03:01,280 --> 00:03:02,879
最后进入代码修复

91
00:03:02,879 --> 00:03:04,919
但从头到尾目标都没变

92
00:03:04,919 --> 00:03:06,400
把这次demo跑通

93
00:03:06,400 --> 00:03:08,599
真实任务不会按照公司的组织架构前进

94
00:03:08,599 --> 00:03:10,639
它不会走到一个部门门口就停下来

95
00:03:10,639 --> 00:03:12,919
重新命名再转交给下一个角色

96
00:03:12,919 --> 00:03:15,240
很多时候只有把事情真正做下去

97
00:03:15,240 --> 00:03:17,639
我们才知道下一步需要什么能力

98
00:03:17,680 --> 00:03:19,159
所以Cierra的设计

99
00:03:19,159 --> 00:03:20,919
是让Session随着任务推进

100
00:03:20,919 --> 00:03:22,080
获得新的工具

101
00:03:22,080 --> 00:03:24,599
如果出现需要独立处理的代码问题

102
00:03:24,599 --> 00:03:26,680
它还可以开启新的编码Session

103
00:03:26,680 --> 00:03:29,800
复杂任务则可以由多段相互关联的Session共同完成

104
00:03:29,800 --> 00:03:31,439
角色当然仍然存在

105
00:03:31,439 --> 00:03:33,199
销售 产品和工程

106
00:03:33,199 --> 00:03:36,319
依然代表不同的知识 能力 责任与权限

107
00:03:36,319 --> 00:03:38,520
但角色不再负责切断同一件事情

108
00:03:38,520 --> 00:03:39,319
准备demo时

109
00:03:39,319 --> 00:03:41,199
Session可以调用授钱信息

110
00:03:41,199 --> 00:03:43,800
发现产品问题后可以增加调查工具

111
00:03:43,800 --> 00:03:46,319
需要修改代码时再进入工程环境

112
00:03:46,319 --> 00:03:48,199
需要的能力跟着问题变化

113
00:03:48,199 --> 00:03:51,439
任务的目标和历史则由Session持续保存

114
00:03:51,439 --> 00:03:52,879
用医院的比喻来说

115
00:03:52,879 --> 00:03:54,439
病人可能先去内科检查

116
00:03:54,439 --> 00:03:56,840
后来做影像检测 最后由外科处理

117
00:03:56,840 --> 00:03:58,199
医生和设备不断变化

118
00:03:58,199 --> 00:04:00,159
病例却始终跟着同一个人走

119
00:04:00,159 --> 00:04:01,520
病人不需要每换一个科室

120
00:04:01,520 --> 00:04:03,719
就把此前发生的一切从头讲一遍

121
00:04:03,719 --> 00:04:05,120
Session跟着任务走

122
00:04:05,120 --> 00:04:06,919
专业能力在需要时加入

123
00:04:06,919 --> 00:04:08,639
不过这里还藏着第二个问题

124
00:04:08,639 --> 00:04:10,639
不同任务确实被隔离了

125
00:04:10,639 --> 00:04:12,599
可一项重要任务如果持续几小时

126
00:04:12,599 --> 00:04:13,439
甚至几天

127
00:04:13,479 --> 00:04:15,360
他自己的Session不也会越来越长

128
00:04:15,360 --> 00:04:17,519
最后触及模型的上下纹极限吗

129
00:04:17,519 --> 00:04:19,160
答案藏在另一个拆分里

130
00:04:19,160 --> 00:04:21,439
Session也不等于模型当前的上下纹窗口

131
00:04:21,439 --> 00:04:23,720
Anthropic在Manage Agents的设计中

132
00:04:23,720 --> 00:04:25,120
把两者明确分开

133
00:04:25,120 --> 00:04:28,360
Session负责持久保存一项工作发生过的事件

134
00:04:28,360 --> 00:04:29,879
模型每次开始推理时

135
00:04:29,879 --> 00:04:31,759
由Harness从这些记录中

136
00:04:31,759 --> 00:04:35,120
读取 筛选和组织当前步骤需要的部分

137
00:04:35,120 --> 00:04:36,959
继续用病例来理解

138
00:04:36,959 --> 00:04:39,560
Session是档案室里保存的完整病例

139
00:04:39,560 --> 00:04:41,959
上下纹窗口是医生这一次看诊时

140
00:04:41,959 --> 00:04:43,600
摆在桌面上的相关材料

141
00:04:43,600 --> 00:04:45,360
完整病例可以继续积累

142
00:04:45,360 --> 00:04:47,600
医生这一次不必从第一页读到最后一页

143
00:04:47,600 --> 00:04:50,319
只需要调取与当前判断相关的记录

144
00:04:50,319 --> 00:04:52,959
为此Anthropic把长期运行的Agent

145
00:04:52,959 --> 00:04:54,160
拆成三个部分

146
00:04:54,160 --> 00:04:56,319
Session、Harness和Sandbox

147
00:04:56,319 --> 00:04:58,319
Session保存任务的历史和状态

148
00:04:58,319 --> 00:05:00,959
Harness读取记录 组织当前上下纹

149
00:05:00,959 --> 00:05:03,279
调用模型并处理工具请求

150
00:05:03,279 --> 00:05:06,120
Sandbox提供代码和工具实际运行的临时环境

151
00:05:06,120 --> 00:05:07,839
Harness可以重启或者更换

152
00:05:07,839 --> 00:05:10,360
Sandbox可以被销毁 需要时重新创建

153
00:05:10,360 --> 00:05:11,560
Session独立保存

154
00:05:11,560 --> 00:05:13,639
新的Harness重新读取事件记录

155
00:05:13,639 --> 00:05:15,920
就能从上一次停止的地方继续工作

156
00:05:15,920 --> 00:05:18,160
CloudTag也采用了类似的生命周期

157
00:05:18,160 --> 00:05:19,639
任务闲置一段时间后

158
00:05:19,639 --> 00:05:21,279
临时Sandbox会被释放

159
00:05:21,279 --> 00:05:23,319
Slike里的工作线程仍然保留

160
00:05:23,319 --> 00:05:24,759
之后有人继续回复

161
00:05:24,759 --> 00:05:26,920
系统可以重新创建执行环境

162
00:05:26,920 --> 00:05:28,319
继续这项工作

163
00:05:28,319 --> 00:05:30,519
Shopify用一句话概括了这套设计

164
00:05:30,519 --> 00:05:31,879
Session必须活下来

165
00:05:31,879 --> 00:05:34,000
进程会结束 Sandbox会消失

166
00:05:34,000 --> 00:05:36,040
执行任务的机器也可能发生变化

167
00:05:36,040 --> 00:05:37,639
但Session保存的任务身份

168
00:05:37,680 --> 00:05:40,319
历史和状态必须能够重新找回来

169
00:05:40,319 --> 00:05:42,519
River是员工在Slike里看到的入口

170
00:05:42,519 --> 00:05:44,199
水面之下的Aquifer平台

171
00:05:44,199 --> 00:05:47,040
负责让一项工作穿过进程和环境的生灭

172
00:05:47,040 --> 00:05:48,199
仍然保持连续

173
00:05:48,199 --> 00:05:50,319
现在再回头看这三家公司的实践

174
00:05:50,319 --> 00:05:51,120
就会发现

175
00:05:51,120 --> 00:05:51,959
他们没有制造一个

176
00:05:51,959 --> 00:05:54,120
能塞下无限上下文的超级agent

177
00:05:54,120 --> 00:05:56,319
他们把过去紧紧绑在一起的东西拆开了

178
00:05:56,319 --> 00:05:58,360
agent是员工看到的入口

179
00:05:58,360 --> 00:06:00,360
每项任务拥有自己的Session

180
00:06:00,360 --> 00:06:03,600
模型每次只读取当前需要的上下文

181
00:06:03,600 --> 00:06:06,439
Harness组织并驱动这一轮执行

182
00:06:06,480 --> 00:06:08,600
Sandbox提供临时工作环境

183
00:06:08,600 --> 00:06:11,519
长期保存的是那件尚未完成的工作

184
00:06:11,519 --> 00:06:13,000
它为什么开始

185
00:06:13,000 --> 00:06:14,199
已经发生了什么

186
00:06:14,199 --> 00:06:15,639
现在走到了哪里

187
00:06:15,639 --> 00:06:17,079
还差哪一步结束

188
00:06:17,079 --> 00:06:19,639
所以一个agent服务全公司

189
00:06:19,639 --> 00:06:22,839
并不意味着所有人共享一段混乱的上下文

190
00:06:22,839 --> 00:06:25,560
不同的事情被分进彼此隔离的Session

191
00:06:25,560 --> 00:06:26,639
同一件事情

192
00:06:26,639 --> 00:06:28,079
则可以跨越角色

193
00:06:28,079 --> 00:06:29,439
进程和运行环境

194
00:06:29,439 --> 00:06:31,000
一直推进到完成

195
00:06:31,000 --> 00:06:33,560
评估一个agent能不能服务好整个组织

196
00:06:33,560 --> 00:06:36,160
关键不在于它一次能记住多少东西

197
00:06:36,160 --> 00:06:37,120
关键在于

198
00:06:37,120 --> 00:06:38,879
它能不能让不同的事情互不干扰

199
00:06:38,879 --> 00:06:40,839
又让同一件事情不再半路丢失

