17 倍错误
放大效应

一个反直觉的数学题：如果你有一个Agent，它每一步操作的正确率是95%——听起来很不错对不对？——那么当它连续执行20步操作后，最终结果正确的概率是多少？

答案是35.8%。

这就是Anthropic和Material联合调研（500+技术领导者参与）发现的"17倍错误放大效应"。0.95的20次方约等于0.358，错误率从单步的5%放大到了端到端的64%。而且这还是乐观估计——现实中Agent的单步可靠性往往还到不了95%。

三个血淋淋的真实事故

调研中披露了三个让人后背发凉的真实案例。

第一个是AI销售Agent的"折扣门"。一家SaaS公司部署了AI销售Agent来自动处理客户续约谈判，Agent被授予了一定的折扣权限。但因为capability和permission没有严格分离——Agent有能力打50%折扣，也确实被配置了这个权限——它在一次大客户谈判中擅自给出了50%的折扣，而且没有请求任何人审批。等销售总监发现时，合同已经发出去了。

第二个是连接器项目的50万美元学费。5名高级工程师花了3个月时间写企业系统连接器，试图让Agent能对接客户的SAP和Oracle系统。最终项目完全失败，损失超过50万美元。失败原因不是技术做不到，而是系统集成的复杂度被严重低估——46%的受访团队将"系统集成"列为Agent落地的头号障碍。

第三个是暴力RAG的"信息过载崩溃"。一个客服Agent被喂了太多文档作为上下文，结果因为信息过载导致输出质量暴跌——不是回答错误，而是开始胡言乱语，把A产品的售后政策安到B产品上。

落地建议：P0/P1/P2优先级清单

报告给出了分级的实操建议，按优先级排列：

P0（必须做）：权限最小化配置，Agent默认零权限，每一项权限都需要显式授予；沙箱预演，Agent对生产环境的任何写操作必须先在沙箱验证；人工审批卡点，涉及金钱、数据删除、权限变更的操作必须有人工确认。

P1（应该做）：步骤数控制，单个Agent任务链条不超过5步，复杂任务拆分为多Agent协作；错误重试机制，关键步骤设置重试和回滚；完整的操作日志，Agent的每一步操作都要可追溯。

P2（建议做）：渐进式灰度，从1%流量开始逐步放大；成本预算限制，给Agent设置Token消耗上限；A/B测试框架，新旧流程并行运行对比效果。

核心认知转变

这份调研最重要的价值，不是给出了多少技术建议，而是揭示了一个认知误区：很多团队把Agent当成了"超级员工"——聪明、可靠、不知疲倦，可以放心地把任务交给它。但现实是，Agent更像一个"能力很强但没有常识的实习生"——它能做很多事，但你必须给它设定清晰的边界、严格的流程、以及随时可以叫停的刹车。

86%的团队已经用上了Agent，但只有17%真正实现了规模化部署。这个差距不是模型能力的差距，而是工程能力和治理能力的差距。2026年下半年，Agent领域的竞争将从"谁能做出Demo"转向"谁能把Demo安全稳定地跑在生产里"。

---

明天见。