墙上深色的Anthropic标志字样,前景是一个虚化的人影

· 译自西班牙语原文

笔记

Anthropic让6名METR员工获得内部访问权限,且无否决权

Anthropic详细说明了如何向外部评估方开放其系统。METR将公布自己的发现,而Anthropic只能要求对事先界定的有限几类内容做删节。

发生了什么

  • Anthropic于2026年10月15日17:20(UTC)发布了“An update on independent evaluators”。当晚23:35(UTC),该文被修改,以澄清SecureBio一个项目的条款。
  • METR是一家评估前沿模型的非营利组织,其6名员工组成的团队获得了与员工类似的访问权限:公司的团队、办公室,以及与Anthropic自家风险评估团队所用相当的内部工具。
  • METR将发布自己的发现。Anthropic无权否决,但可以要求在事先界定的类别中做删节,例如用户数据、保密的法律信息和模型架构细节。METR可以公开表示它是否认为每一处删节都有正当理由。
  • SecureBio正在审阅2026年8月风险报告中关于化学和生物武器的章节。Accenture与Faculty正在谋求范围更广的合作:模型评估、对抗性测试、对齐评估和防护措施测试。与包括Hugging Face在内的其他组织也已有初步接触。

为什么重要

  • 该公司描述了三个访问层级。第一级是范围有限的调查,由Anthropic控制访问并批准发布。在另外两级,发布不需要批准,但允许删节。读到评估方报告的人,应当知道它是在哪一级下完成的。
  • 可删节的类别中包括模型架构。而这恰恰是第三方要解释一个模型为何出错所需要的东西。METR可以对每一处删节发表意见,这一保障使这条界限变得可以核查。
  • 对购买Anthropic模型的智利企业来说,变化在于证据:将会有拥有真实访问权限的第三方报告,可以在供应商评估中引用,而不必只依赖厂商自己的内部测试。独立性标准(无股权参与,也无财务或运营上的依赖)则由该公司自己声明。

关键数字

6:获得与Anthropic员工类似访问权限的METR员工人数。

背景

该文提到了Anthropic上个月作出的加强独立评估的承诺,以及它对《白宫超级智能协议》的加入。OpenAI也表明了立场:OpenAI发布外部审计原则。关于该公司已记录的失误,参见Anthropic详述Claude的4起违规访问。

接下来

  • METR和SecureBio的报告,没有发布日期。
  • 与Accenture和Faculty的合作正在洽谈,没有时间表。
  • 与包括Hugging Face在内的其他组织的接触,没有时间表。

一句话总结

Anthropic主张所有前沿公司都应当这样做。到目前为止,OpenAI发布了原则,而Anthropic发布的是访问权限。

来源


编辑:Rodrigo Cornejo。我们如何挑选和核实:谁在写这些笔记。

← 全部笔记