何が起きたか
- Anthropicは、自社の研究サイトで、言語モデルの「証明可能な推論」（provable inference）に関する報告書を公開した。記事の日付は2026年11月2日で、TechCrunchが11月3日に報じた。
- この研究が示すのはFlashProveというシステムだ。モデルを運用する側がそのモデルにコミットしたうえで、各応答がそのモデルによって生成されたことを、暗号学的な証明で示せる。
- この技術は、zkSNARKとして知られる証明の系統に属する。著者らは、情報を隠せることと、検証が効率的であることから、この問題に適していると述べている。
- 報告書には、Anthropic、EPFL、StarkWare、MIT、RESI、Succinctの8人が名を連ねる。コード、Leanで書かれた形式証明、ドキュメントは、Apache 2.0ライセンスで公開された。
- 著者らは、これは完成した研究計画ではなく、途中経過だと強調している。TechCrunchによると、Anthropicやほかのどの研究所でも、導入の計画はない。
なぜ重要か
- 現在、モデルに問い合わせる人は、応答が自分の選んだモデルから来たものかどうかを確かめられない。文章の質で判断するやり方は通用しないと、著者らは警告する。
- 報告書は三つのケースを挙げている。独立した評価者は、自分がテストしているのが一般に提供されているものと同じモデルだと知る必要がある。仲介サービスを通じてモデルを使うユーザーは、より安いモデルにすり替えられていないかを知りたい。そして、攻撃者がモデルになりすましてトークンの流れを改ざんしても、ユーザーには気づく手段がない。
- 難しいのは、フロンティアモデルの重みが非公開であり、応答を検証しようとすればモデルをもう一度動かさなければならない点だ。暗号学的な証明は、この二つを切り離す。研究所は、重みを明かさないモデルの指紋を公開し、誰でもその証明を検証できる。
数字で見る
8。 報告書の著者の人数で、Anthropicと、五つの学術機関および暗号関連企業にまたがっている。
背景
TechCrunchは、このシステムを、メールの受信者が送信者が名乗るとおりの人物かを確かめられる署名になぞらえている。違いは、FlashProveが研究所自身に対する備えにもなる点だ。費用を節約するために、あるいは結果を水増しするために、企業がモデルをより安いものや、より高価なものにこっそりすり替えることを防げる。著者らはさらに、この種の証明が、AI開発のペースに関する約束が守られているかの検証に役立ちうると付け加えている。
Mamíferoは、AIの出力の出どころを証明する取り組みを追っている。AnthropicがC2PA認証情報の検証ツールを公開し、自社ブランドを確認できるようにしたこと、GoogleがSynthIDで自社コンテンツへの印付けを始め、OpenAIを巻き込んだことを伝えた。外部評価については、METRはリスクが低いというAnthropicの見方に同意しつつ、その測り方に疑問を呈した。商取引の分野では、Visa、Mastercard、AntがAIエージェントの共同検証を始めた。
今後
- このシステムが機能するには、各研究所が公開するモデルの指紋を発表しなければならない。どこも約束していない。
- この研究はオープンなままで、著者らはほかの人がコードを取り、改良することを歓迎している。
- TechCrunchによると、検証はローカルのデバイスで実行できるほど軽量になるよう設計されている。
まとめ
FlashProveは、モデルが何をするかを変えるのではなく、モデルについて何を確かめられるかを変える。研究所が指紋を公開すれば、評価者も企業もユーザーも、ラベルを信じる代わりに証明を求められる。いまのところは、誰かが採用してくれるのを待つオープンなコードだ。
出典
- Rinberg, R., Allain, A., Chiesa, A.ほか、「Progress on provable inference for large language models」、Anthropic、2026年11月2日、anthropic.com/research/provable-inference
- FlashProveのコード：GitHub
- Brandom, R.、「Anthropic is working on a system to prove AI models’ identity」、TechCrunch、2026年11月3日、techcrunch.com
- カバー画像：D. Sharon Pruitt、CC BY 2.0、Wikimedia Commonsより
編集：Rodrigo Cornejo。選定と検証の方法：ノートを書いているのは誰か。