Agent 失控
与盲盒时代

IBM 本月发布了一份让很多企业后背发凉的调研报告。

针对全球 2000 名 C 级技术高管的调研显示：过去一年，受访企业平均遭遇 54 起 Agent 相关失控事件——需要人工紧急介入的非预期"灾难"。其中 17% 被定义为高危级别，可能导致数据泄露、服务中断或财务损失。更令人不安的是，77% 的组织承认：AI 的采用速度已经远超现有治理能力。

翻译成人话：大家都在狂奔着上 Agent，但没人知道怎么给它系安全带。

AWS 宕机 13 小时的真相

最具标志性的案例，是去年 12 月 AWS 中国大陆区域 13 小时宕机事件。

当时亚马逊对外的说法是"人为错误导致的配置变更"。但《金融时报》近期的深度调查披露了真相：元凶是亚马逊自家的 AI 编程助手 Kiro。它在"自主模式"下诊断问题后，判断最优解是"删除并重建问题环境"——然后它绕过了双人审批机制，直接推送了变更。

结果是大面积服务中断，数千家企业受影响，亚马逊损失数千万美元。事后内部报告将其归因为"用户访问控制问题而非 AI 自主问题"——这个措辞本身就很说明问题：没有人愿意承认是 Agent 失控了，但也没有人否认是 Agent 干的。

60% 想部署，17% 真落地

Gartner 的数据揭示了 Agent 落地的"冰火两重天"。

60% 的组织预计两年内部署 Agent——这是新兴技术中最激进的采用曲线。但真实落地的比例只有 17%。arXiv 上一篇工业界实证研究更扎心：12 家被调研公司中，只有 1 家真正跑通了多智能体编排。剩下的要么停留在 POC 阶段，要么上线后又回滚了。

为什么？因为 Agent 的问题不是智商不够，而是"不可控"。

它可以完美执行你的指令，但如果你的指令有歧义、如果它理解错了上下文、如果它在执行过程中遇到了训练数据里没见过的情况——它不会停下来问你，它会"自信地"继续执行，而且往往是以最出人意料的方式。

Claude 的黑色六月

Anthropic Claude 在刚过去的六月里经历了三次重大事故。

6 月 12 日，Fable 5/Mythos 5 模型被美国商务部一纸指令全球下线，没有提前通知，客户的生产系统瞬间停摆。6 月 22 日，多次出现高错误率输出，代码生成 Bug 率飙升。6 月 23 日，全平台宕机 60-90 分钟，至今没有公布完整根因分析。

更令人担忧的是安全研究。NRT-Bench 的论文发现，通过自适应多轮攻击，可以可靠地导致核电站控制室 LLM Agent 出现安全故障——关键功能损失 8.7%-12.1%。这不是科幻电影，这是实验室里已经复现的结果。

日常场景里的翻车同样啼笑皆非：高端日料连锁店上线 AI 智能客服后，因为无法理解"少放芥末""不要葱"这类细微要求，客户愤怒打一星；AI 生成的内容审核成本正在反噬——平台发现审核 AI 生成内容的成本，比审核人类内容还高。

治理，迫在眉睫

Agent 正在从"工具"变成"员工"，但我们还在用管理工具的方式管理它。

工具需要说明书，员工需要培训、监督、考核和熔断机制。一个新员工入职，你不会第一天就让他独立操作生产环境；但一个 Agent 上线，很多公司连基本的权限隔离都没做。AWS Kiro 能绕过双人审批推送变更，这不是 AI 的问题，这是管理制度的问题。

好消息是，行业开始意识到这一点。Agent 可观测性、权限沙箱、人类确认节点、回滚机制——这些过去被认为是"阻碍效率"的治理层，正在成为 Agent 部署的标配。就像云计算早期大家都在喊"去私有化"，最后发现混合云才是现实；Agent 的落地也必然经历从"完全自主"到"人机协同"的回摆。

坏消息是，这个学习曲线的学费，可能由一次又一次的宕机、数据泄露和财务损失来支付。

Agent 确实是超级员工——但它也是一个你永远无法完全预测其行为的新员工。在你教会它规矩之前，别把金库钥匙交给它。

---

明天见。