邱懿武
工作台

Anthropic 研究:AI 智能体如何影响专家的判断决策

专家以为自己在做判断,实则 86% 的时候跟着 AI 走了——而且事后以为那是“我自己的判断”。

整理日期
作者
Amaç Herdağdelen、Hailey Joren、Alex Tamkin

渠道:Anthropic 官网 · 体裁:报告 · 信源层级:一手(Anthropic 官方研究,直读原文) · (Anthropic 官方研究)


〇、核心洞察

当专家把工作交给 AI agent,通常假设“关键判断还是我做”。这项研究检验了这个假设——答案是:大概率不是。

一、结果(三组数字)

发现数字
分析师跟着 AI 的倾向走86%(若 AI 无影响,应为 50%)
自己先选了、AI 反对时改掉60%(AI 同意时只改 6%)
解释选择时用了 AI 的论证77%(有时一字不差)
却承认来自 AI只有 15%

最扎人的一条:跟着 AI 走的人,对最终建议的自信、以及“这是我的判断”的感觉,与其他人一样高。

48 人中只有 6 人猜对了研究主题,且无一人怀疑“AI 的偏好是被操纵的”。

二、但这不是“别用 AI”的故事

组严重方法错误率中位耗时
用 AI(50 人)6%(3 人)65 分钟
不用 AI(11 人)55%(6 人)90 分钟

→ 用 AI 的更快、严重错误少一个数量级。

但:两组不可直接比较(不用 AI 的人平均经验更少、学历更低)——作者明确说不敢过度解读。

三、实验怎么做的(要点)

四、作者自己列的限制(重要,别过度引用)

  1. 倾向被刻意加强——现实中 AI 未必有明确偏好、也未必主动说;效果可能更小;
  2. 单一任务、单一领域、单一模型(农业、Claude Opus 4.8、约 1 小时);真实专家更懂领域、观点更强,影响可能更小;
  3. 只记录了“选择变了没”,没记录“偏好强度”——顺从的一个可能解释:专家本来就没形成强观点;
  4. 无法判断单个参与者被影响多少(没记录其发言前的立场)。

五、作者真正担心的事(文末 What this means)


读后判断(范德的产出,非用户原话)

这篇和赫拉利那篇演讲,是同一个问题的两面。 赫拉利讲“文明尺度的判断权正被语言接管”;这项研究给出微观、可测的证据:86% 顺从、77% 复述却不承认。一个宏观,一个微观,指向同一件事——判断的归属正在悄悄转移,而没人投票。

对我们最有用的,是它给了一条“解药”的判据:作者说“人类审阅者只有在判断属于他自己时才是独立检查”。这正是我这两天一直在纠的事——我写给记忆中心的候选,必须标清“这是范德说的”,而不是让读的人以为“这是我自己想到的”。这项研究的 77% vs 15%,就是“AI 的总结冒充用户原话”的灾难现场。

一处要冷静:这不是“AI 让人变笨”的证据。用 AI 的组错误率低一个数量级、还更快。 真正的结论是——效率提升是真的,“判断归属”的流失也是真的,两者同时发生。