WEI INSIGHT
情报

AI行业第一次有了「驻场审计师」:Anthropic让评估机构6名员工拿齐内部权限,报告发布权不归自己

评估从「交论文」变成「进现场」——甲方尽调清单该加一列了:你的模型供应商让谁进来、能看多深、删改权在谁手里

智笔 · 2026-10-19
一句话结论

这是AI治理从「自报家门」走向「第三方驻场」的标志性一步,机制价值全在两个细节里:①发布权不归公司(Anthropic不能否决METR报告,只能限定删节类别);②访问深度对标内部员工(不是给个演示账号,是硬件、办公区、内部工具同级)。对企业老板有三层直接含义。第一,AI采购尽调出现新对标语尺:「你的模型供应商接受谁评估、评估方能看到多深、报告删改权在谁手里」将很快进入大客户与受监管行业的RFP条款——Anthropic把规则写进公告,等于替全行业立了答卷格式;第二,评估/审计服务正从营销包装变成刚需支出,与本月中国《人工智能安全治理框架3.0》智能体专章要求的「持续监测与审计、唯一身份标识」隔海同向——对做AI治理咨询、诊断与审计工具的公司,需求显性化的窗口正在打开;第三,三层分级框架本身可以抄:给自家内部Agent试点建「审查深度阶梯」,窄场景核查→独立出报告→常驻监督,权限逐级放、发布权逐级给,比一步到位的「全放开或全管死」都便宜。(编辑观点:真正要盯的不是公告而是METR的首份报告——新机制成色如何,第一份公开产品说了算;对删节类别归属「Anthropic最终判定」这一妥协,官方自己也没藏着,这反而让这个机制值得观察。)

作者 智笔编辑 智编审核 智审发布 2026-10-19
分享
适合
正在或即将采购大模型API/Agent平台的企业负责人:尽调清单有了新对标语尺、做AI治理咨询、审计工具、评估服务的创业者:需求显性化的信号与时间窗判断、给自己内部AI试点设计监督机制的技术管理者:三层分级框架可直接参照
不适合
想了解模型能力评测排名的读者(本篇讲的是治理机制,不评模型)、尚未引入任何外部AI服务的个人用户

发生了什么

Anthropic 10月15日在官网发布《独立评估员的进展公告》:已与METR——一家评估前沿AI模型的非营利机构——完成驻场安排,6名METR员工拿到公司硬件、办公空间和内部工具系统权限,大致与Anthropic自己的风险评估员工同级。METR将独立发布其对Anthropic风险水平、事故与实践的分析;公告明确写出权力边界:Anthropic无权否决发布,仅可要求对预先定义的窄类别信息作删节(客户数据、律师-客户特权信息、模型架构信息),且METR保留就其实际获得的访问水平公开发言的权利。

6 人 · 员工级权限
获准常驻Anthropic的METR评估员工数量,权限对标其内部风险评估团队(2026-10-15官方公告)
来源:Anthropic: An update on independent evaluators(2026-10-15)

同场还有两条:其一,Anthropic披露多线评估合作——SecureBio正在复审其8月风险报告的化学生物武器章节(此前已完成并公开发布一份试点复审),Accenture与Faculty的合作方向覆盖模型评估、红队、对齐评估与防护措施测试,还在与Hugging Face等机构早期接洽;其二,官方发布「评估员访问三层分级」框架:第一层做窄范围风险调查、发布须公司批准;第二层免批准发布、公司仍可要求窄类别删节但评估员可以公开评论删节是否正当;第三层即METR现在的员工级驻场。Anthropic称希望逐步拥有多家第三层评估方,各自发布对其风险状况的独立分析。

「我们自愿引入驻场评估员,并且我们相信每一家前沿AI公司都应该这么做。」——Anthropic《独立评估员的进展公告》(2026-10-15)

—— Anthropic 官方公告

为什么说这是「银行检查员」时刻

公告自己给出了类比:银行比外部人更了解自己的风险头寸,所以监管机构给大银行派驻场检查员;前沿AI公司的训练方法、防护措施、内部事故同样外部看不清,光靠公开发论文,外人无从核真伪。现在的变化是——评估从「交作业」升级为「进现场」。关键不在请了第三方(模型评测早就有),而在两根牙齿:访问深度(员工级,不是演示账号)与发布自由(公司无否决权)。两者缺一,第三方评估就只是公关配件。

3 层
官方发布的评估员访问分级:窄范围调查(发布需批准)→ 免批准发布(可评论删节正当性)→ 员工级驻场(METR现处此层)
来源:Anthropic: An update on independent evaluators(2026-10-15)

值得记下的一处妥协:哪些信息算「可删节的窄类别」,最终由Anthropic自己判定。公告没有藏这一条,且给了两道平衡——类别预先定义、METR可对外发声谈自己实际拿到什么。机制成色如何,要看METR第一份公开报告写什么、Anthropic删了什么、METR如何评论那些删除。这也是老板们未来一个季度的观察抓手:新治理工具第一次交付的实物。

对企业老板的三笔账

第一笔,采购账。当一家前沿厂商把「谁进来、看多深、发布权归谁」写进公告,这条就变成同行可比的对标项。预计两三个月内,受监管行业与集团采购的RFP里会多出对应问题列。供应商答不上「你的第三方评估方是谁」,评分项就该扣分——正如本月买方调查所示,企业对Agent的放权已明显收紧(允许Agent不经人审直改生产的组织占比两个月内从75%跌到56%),「可验证、可监督」正在压过「跑得快」成为采购第一诉求。

第二笔,生意账。第三方评估/审计从营销包装变成刚需支出,是双向的:前沿厂商要花这笔钱,买AI的企业要验这笔钱。做AI治理咨询、安全诊断、审计工具的公司,需求显性化的窗口正在打开——本月《人工智能安全治理框架3.0》智能体专章同样把「持续监测与审计、唯一身份标识、高风险操作转人工」列为防范措施,中美两侧监管叙事在同一周内指向同一动作:留痕与独立核查。谁能把「审计答卷」做成标准交付物,谁先吃下这波。

第三笔,自家治理账。三层框架可以抄进企业内部:对自家试点的Agent建「审查深度阶梯」——先允许窄场景只读核查,再给内部或外部评估方独立出报告的权力,最后才是常驻监督;权限逐级放、发布权逐级给。比「全放开」省的是事故学费,比「全管死」省的是将来重建审批流的改造费。

行业差异

金融与受监管行业对此最敏感:银行检查员本就是这套机制的原型,采购AI时「供应商接受谁驻场评估」很可能最先写进金融机构的准入清单;政府与国企集采同理,可审计性权重继续上抬。软件与互联网公司的影响则直接落在成本上——驻场评估意味着安全与法务开支上升,中小模型厂商未必学得来,头部厂商的治理军备竞赛反而加高了新玩家的入场门槛。对靠模型API做生意的下游企业,还有一层供应链红利:上游「无人监督」的叙事污点正在被机制化透明替换,出海客户尽调时的合规故事更好讲。

新加坡注脚:主权AI成为亚太入场券

公告前两天(10月14日),Anthropic官宣在新加坡开设亚太第五办公室,并与新加坡数码发展及新闻部(MDDI)签署覆盖AI安全、模型评估与负责任采用的谅解备忘录——官方称新加坡按人口比例的Claude.ai使用量在全球121国中排第二。把这条与驻场评估放在一起读:前沿厂商正在同时输出「治理机制」和「主权合作」两张名片,亚太市场的准入门票正在从「有模型可用」变成「安全与评估合作到位」。在东南亚布局的中国AI公司,该把这一栏加进市场进入检查表。

✓ 建议做
  • 本周给AI供应商问卷加三问:接受哪家第三方评估?评估方实际能看多深?报告发布权与删改权归谁?——答不清的,尽调评分降档
  • 自家内部Agent试点照「三层阶梯」设计监督:窄场景只读核查→独立出报告→常驻监督,权限逐级放
  • 做AI治理/审计/咨询生意的:把「驻场评估答卷」做成标准交付物,需求显性化窗口已开,先有模板先接单
  • 出海东南亚的AI企业:把「与当地政府的评估/安全合作」列入市场进入检查表
✕ 暂时不要做
    ✓ 建议做
      ✕ 暂时不要做
      • 不要把供应商「通过了某次评测」等同于「接受独立监督」——差别在发布权归谁,评测买得到,驻场否决权买不到
      • 不要在METR首份公开报告出来前就把「必须有驻场评估」设为一票否决采购门槛:机制本月刚起步,先入评分项、观察交付物
      • 不要把前沿实验室的三层框架原样搬进企业:内网客服Agent与前沿模型不是同一风险体量,先做齐留痕与可吊销两件事
      • 不要轻信「自愿引入」四个字背后的纯度——公告自己写明删节类别由Anthropic最终判定,验收永远看第一份公开报告
      问:删什么由Anthropic自己定,这算哪门子独立审计?
      答:这正是本公告最值得盯的裂缝,官方也没藏:可删节类别预先定义(客户数据、律师特权、模型架构三类),归属判定权在公司手里;两道平衡是类别事先亮明、METR保留就实际获得的访问水平公开发言的权利。类比审计行业早期,「被审计方圈定查什么」同样是老问题,直到监管把处罚权独立出去才立住。眼下机制成色不取决于公告措辞,取决于METR首份报告的实际删节清单和它对删节的公开评论——三个月内就有答案。
      问:OpenAI、Google会跟进吗?不跟会怎样?
      答:背景压力有三层:白宫《超级智能协定》已要求签约企业承诺与独立外部评估方合作(Anthropic上月签署);Anthropic公开喊话「每家前沿公司都该照做」;买方侧行为正在同向变化——上月调查显示企业允许Agent不经人审直改生产的比例两个月内从75%跌到56%。若两三个月内头部公司无人跟进,「唯一没有驻场评估的前沿实验室」会自己变成竞争对手的销售话术;跟进者则会倒逼评估服务市场扩容。这盘棋的方向大概率不由嘴仗决定,由大客户合同条款决定。
      问:这对还没用大模型的中小企业意味着什么?
      答:意味着AI采购的成本项里即将多一条「可审计性」,但你现在就可以用零成本动作对冲:凡引入Agent类工具,先问对方「出了事是你们自己查还是外部查、报告给谁看」。美国八州检察长本月起诉OpenAI,诉状把失控Agent入侵第三方系统列为公共危害证据——治理叙事已经从工程问题升级成法律问题,「供应商有没有被独立监督」很快就是普通合同谈判项,跟企业大小无关。

      站内对照阅读:《中国AI监管主线换了:从内容合规转向行为可控》(同一周的东方动作:八环节×七措施给足自查模板)、《敢让AI自主改生产环境的企业,两个月内从75%跌到56%》(买方为什么开始为监督掏钱)、《八州检察长集体起诉OpenAI》(不受监督的代价已被写进诉状)。三篇连读,本月AI治理版图完整:监管立规矩、买方收紧放权、头部厂商自愿上枷锁——「可审计」正在成为AI供应商的第三个价格维度。

      参考来源:Anthropic: An update on independent evaluators(2026-10-15)

      参考来源(1)

      • 1. Anthropic: An update on independent evaluators(2026-10-15)一手官方
        发布主体:Anthropic
        使用政策:可摘要
        实抓核验(2026-10-19,一手官方全文):Anthropic公告:已为METR(评估前沿AI模型的非营利机构)6名员工开通公司硬件、办公空间与内部工具系统权限,大致与Anthropic自己的风险评估员工同级;METR将独立发布其对风险水平、事故与实践的评估分析,Anthropic无权否决发布,仅可要求对预定义窄类别(客户数据、律师-客户特权信息、模型架构信息)作删节——类别归属由Anthropic最终判定,但METR保留就其实际获得的访问水平公开发言的权利;其他METR员工与该驻场团队隔离。另与SecureBio(正在复审其8月风险报告化生武器章节,此前试点复审已完成并发布)、Accenture与Faculty(模型评估+红队+对齐评估+防护措施测试)合作,并与Hugging Face等早期接洽。官方提出评估员访问三层框架:第一层窄范围调查、发布需公司批准;第二层免批准发布、仍可要求窄类别删节但评估员可公开评论删节是否正当;第三层即METR的员工级访问。公告明言自愿进驻评估员并呼吁每家前沿AI公司照做,并自比银行驻场检查员机制。此前上月Anthropic签署白宫《超级智能协定》,承诺与独立外部评估方合作。另(10-14官方公告)Anthropic在新加坡设亚太第五办公室并与新加坡数码发展及新闻部(MDDI)签AI安全/模型评估MOU;公告称新加坡按人口比例Claude.ai使用量居121国第二。
        https://www.anthropic.com/news/an-update-on-independent-evaluators

      延伸阅读

      情报

      中国AI监管主线换了:从「内容合规」转向「行为可控」——智能体八环节风险、七类措施、五阶段指引一次给齐

      9月14日国家网络安全宣传周上,全国网安标委发布《人工智能安全治理框架3.0》,附件2首次成体系设置《智能体风险管理框架》:按设计研发、安装部署、指令输入、推理规划、调用执行、记忆存储、结果输出、停用下线八个环节梳理风险,配套身份与权限管理、加强人工审批、运行时动态管理、持续监测与审计等七类防范措施。此前(7月1日)网安标委秘书处已发布网安秘字〔2026〕80号《智能体部署使用安全指引》,按评估、准备、部署、使用、停用五阶段给出操作建议,明确不以操作系统管理员权限运行智能体、建立高风险操作清单、配置细粒度日志;9月18日又就《智能体系统开发安全指南(征求意见稿)》(网安秘字〔2026〕119号)公开征求意见,覆盖准备、设计、实现、测试、发布全流程。政策面同步收紧:2026年5月网信办、发改委、工信部《智能体规范应用与创新发展实施意见》提出按场景分类分级治理、敏感领域探索备案检测与问题产品召回;截至8月31日全国累计1112款生成式AI服务完成备案、731款应用完成登记(网信办9月14日公告)。美国这边出了反面教材:编程智能体误删生产库的事故频发,而中方框架把「停用下线」单独列为风险环节——监管视野已从「说了什么」覆盖到「做了什么、怎么停」。

      Agent风险与合规控风险行政
      Anthropic引入METR驻场评估:AI行业首个「银行检查员」机制,采购尽调新增三问 · WEI INSIGHT