敢让AI自主改生产环境的企业,两个月内从75%跌到56%——用得越多,越不敢放手
VB 7月/8月两轮调查同向下滑:保留人工审核的比例20%→42%;同期评估工具使用率31%→59%,工具照买、放权照收
这份数据把「Agent落地成熟度」的一层窗户纸捅破了:企业不是在「要不要用Agent」上摇摆,而是在「放多大权」上急刹车——工具投入继续加码(评估工具使用率两个月翻近一倍),自主权限同步收缩(保留人审比例翻倍)。对老板的直接含义有三条。①你的Agent路线图该改了:先别追「无人值守」叙事,把「可验证、可撤回」做成授权分级的前提——低危只读操作可自动,涉及钱、权限、对客户可见的变更必须过闸;②内测通过≠生产安全是有实据的行业常态(61%的部署方被咬过),评估体系解决「发现」,人工审核解决「兜底」,两者预算该并列而不是替代;③最贵的教训是「放权容易收权难」——先给全权再收权的公司,要重建审批流、重做权限、补历史留痕,比先分级再逐步放开的公司多付一轮改造费(编辑观点:75→56不是AI能力退步,是责任显形;企业正在从尝鲜期付学费转向责任期做风控,这个拐点比任何模型发布都更值得写进明年的AI预算说明)。
发生了什么
VentureBeat Intelligence 10月8日公布其8月「Agentic Reliability and Evaluations」调查:在已部署自主AI Agent的组织里,56%表示已经允许(或计划一年内允许)某些生产变更仅凭自动评估结果上线、不经人工审核——而7月同一口径的数字是75%。两个月掉了19个百分点。
这个下滑不能归因于「8月受访者更保守」:8月样本里最终采购决策人占53%(7月为44%),单切出决策人子样本,同口径比例照样从88%跌到61%。排除不部署Agent的受访者后,「预期foreseeable future保留人工审核」的比例从20%升至42%——VB自己标注这是统计显著的变化。调查同时承认样本是读者与会员自选群体,不能外推为整个企业市场的变化。
工具照买、放权照收:最耐人寻味的错位
收缩放权的同一批企业,正在加码买入评估工具:OpenAI原生评估工具的使用率从7月31%升至8月59%。也就是说,企业并没有失去对Agent的信心,而是把「用评估工具管Agent」和「让评估结果替代人签字」这两件事分开了——前者的投入翻倍,后者的授权回收。支撑这种分离的是一手教训:61%做过上线前评估的部署方报告,过去12个月至少发生过一次Agent或LLM功能通过内部测试、上线后却在客户侧出故障。
拐点意味着什么
第一,「零人审核自动部署」不再是默认路线图。本站7月报道同一系列调查时,66%企业正追求Agent自动部署——两个月后风向数据变成放权比例大跌、人审预算居投资榜首。第二,评估体系的定位清楚了:它是「发现问题的眼睛」,不是「签发上线的手」。眼睛买得越多,说明看到的坑越多,于是手收得越紧——这是因果链而不是矛盾。第三,责任成本开始显形:保留人工审核意味着吞吐量下降、流程成本上升,愿意付这笔钱本身就是「Agent事故已进入财务视野」的证据(与上月CompTIA调查98%重视风险管理、安全与培训预算并列48%相互印证)。
行业差异
科技/软件行业受影响最直接:它们的Agent权限最深(代码合并、基础设施变更),这次收缩的就是这类操作,「低危只读可自动、写操作须过闸」将成主流分法。金融与医疗本就在人审文化里,数据反而给它们提供了「不需要为慢道歉」的行业锚点。制造与零售的Agent多在内网和客服侧,对客可见的变更(价格、库存、话术)应第一时间纳入保留人审清单。真正的分水岭在「有没有历史欠账」:过去两年把权限一步给满的企业,现在收权要重建审批流、重拆权限模型、补历史留痕;从一开始就分级授权的,只需按风险清单逐档放开——第二轮改造费比第一轮学费便宜得多(编辑观点)。
- 给每个在跑的Agent做「权限-动作-可撤回性」三列盘点,凡改生产数据/代码/配置且不可一键撤回的,一律回到人工闸口
- 把变更分级写进制度:低危只读自动放行、中风险操作需用户授权、高风险(钱、权限、对客可见)执行前转人工接管
- 预算上评估工具与人工审核流程并列安排,别用前者替代后者——61%的内测通过仍翻车是行业常态
- 用「先清单后放权」做节奏:每季度复盘闸口拦截率,连续两季零拦截的动作类型再考虑降级为抽样复核
- 不要把75→56读成「Agent不行」:收缩的是自主权,不是投入——同期评估工具使用率近翻倍
- 不要在没建留痕与吊销能力前先放权追求效率:放权容易收权难,收权时找不到是哪个Agent干的才是最大成本
- 不要照抄厂商的「无人值守」叙事做路线图:买方调查已转向,供应商话术跟不上是销售问题不是事实
- 不要为一次性通过某次评估就永久放行同类操作:模型半年一换代,闸口规则要有复审周期
原文建议读VB 10月8日报道全文(含两轮波次的方法说明),站内对照阅读:《企业AI Agent落地双危机:54%出过安全事故,88%试点失败》(同一调查系列的7月基线)、《两份报告合谋宣布:企业AI进入「执行风险」阶段》(10月买方行为另一面)。三篇连着读,就是一份完整的「企业Agent责任期」账本。
参考来源(1)
1. VentureBeat Intelligence: Enterprises no longer letting AI agents deploy to production without human approval (Aug wave, 2026-10-08)可信媒体
发布主体:VentureBeat使用政策:可摘要实抓核验(2026-10-19):VB 8月Agentic Reliability and Evaluations调查(140人):允许Agent凭自动评估结果直接上生产变更(或一年内建此能力)的组织占比从7月75%跌至56%;终端采购决策人子样本同向(88%→61%),排除未部署Agent者后32%已放权低危Agent、24%在建设、42%保留人工审核。保留人工审核比例从7月20%升至8月42%(统计显著)。OpenAI原生评估工具使用率同期从31%升至59%;61%做过上线前评估的组织在过去12个月至少遇到一次Agent通过内测却在客户侧出故障。明年可靠性投资预期增幅最大项:人工审核流程30%、生产可观测26%、自动评估管线21%、安全策略评估11%、不增加11%。调查为自选读者样本,不代表全市场;转向发生在Amodei 9月12日文章之前,因果未知。https://venturebeat.com/orchestration/the-share-of-enterprises-trusting-ai-agents-to-make-production-changes-on-their-own-has-fallen-from-75-to-56-vb-intelligence-finds