壁に掲げられた黒い文字のAnthropicのロゴと、手前にぼやけて写る人物のシルエット

· スペイン語の原文からの翻訳

ノート

AnthropicがMETRの6人に社内アクセスを与える、拒否権はなし

Anthropicが外部の評価者に自社システムを開放する方法を詳しく説明した。METRは調査結果を公表し、Anthropicが求められるのは限定された区分の黒塗りだけだ。

何が起きたか

  • Anthropicは2026年10月15日17時20分(UTC)、「An update on independent evaluators」を公開した。文書は同じ日の夜、23時35分(UTC)に、SecureBioのプロジェクトの条件を明確にするため修正された。
  • フロンティアモデルを評価する非営利団体METRの6人のチームが、従業員に近いアクセスを得た。社内のチーム、オフィス、自社のリスク評価チームが使うものに匹敵する社内ツールだ。
  • METRは調査結果を公表する。Anthropicはそれを拒否できないが、ユーザーデータ、秘匿された法的情報、モデルのアーキテクチャの詳細といった、あらかじめ決められた区分については黒塗りを求められる。METRは、個々の黒塗りが正当だと考えるかどうかを公に述べることができる。
  • SecureBioは、2026年8月のリスク報告書のうち化学・生物兵器の章を検証している。AccentureはFacultyとともに、より広い提携を求めている。モデル評価、敵対的テスト、アラインメント評価、安全対策のテストだ。Hugging Faceを含む他の組織とも初期の協議が行われている。

なぜ重要か

  • 同社はアクセスの3段階を説明している。第1段階の限定的な調査では、Anthropicがアクセスを管理し、公表を承認する。ほかの2段階では、公表に承認は要らないが、黒塗りは認められる。評価者の報告書を読む人は、それがどの段階で行われたかを知っておく必要がある。
  • 黒塗りできる区分には、モデルのアーキテクチャが含まれている。第三者がモデルの失敗の理由を説明するのに必要なのは、まさにそれだ。METRが個々の黒塗りについて意見を述べられるという保護策が、この限界を検証可能なものにしている。
  • Anthropicのモデルを契約するチリの企業にとって、変化は証拠の面にある。実際にアクセスした第三者の報告書が、ベンダー評価で引用できるようになり、メーカー自身の社内テストだけに頼らずに済む。独立性の基準(株式の保有がなく、財務上も運営上も依存していないこと)は、同社自身が宣言している。

数字で見る

6:Anthropicの従業員に近いアクセスを得たMETRの従業員の数。

背景

この文書は、Anthropicが前月に示した独立評価の強化の約束と、「ホワイトハウスの超知能に関する合意」への参加に触れている。OpenAIも立場を明らかにしている:OpenAIが外部監査の原則を公表。同社がすでに記録した不具合については、Anthropicが詳述したClaudeによる4件の不正アクセスを参照。

今後

  • METRとSecureBioの報告書。公表日は未定。
  • AccentureおよびFacultyとの提携は交渉中で、期限はない。
  • Hugging Faceを含む他の組織との協議。期限はない。

まとめ

Anthropicは、すべてのフロンティア企業が同じことをすべきだと主張している。これまでのところ、OpenAIは原則を公表し、Anthropicはアクセスを公表した。

出典


編集:Rodrigo Cornejo。選定と検証の方法:ノートを書いているのは誰か。

← すべてのノート