アンソロピック、外部の安全評価員６名に社員並みの権限付与　調査結果を原則公開へ

米AI企業のAnthropicは、先端AIモデルの評価を手がける非営利団体METRの担当者に対し、自社の安全評価チームとほぼ同等となる社内システムへのアクセス権を提供し始めたと発表した。評価者が独立した視点でリスクを検証し、その結果を原則として同社の拒否権なしで公開できるようにする体制を整える。

銀行検査官に倣い社内システムを開放

AIモデルの性能が向上するにつれて、より強力な安全対策と詳細なリスク評価が求められている。一方で、悪意ある主体への情報流出や商業上の機密保持の観点から、訓練手法や計算資源などの安全に関する全情報を一般に公開することは困難であった。このため同社は、銀行規制当局が金融機関に常駐検査官を派遣する仕組みに倣い、信頼できる外部評価者を社内に受け入れることで、開発企業と外部評価者との間の情報格差を解消するアプローチを採用した。

今回の取り組みにおいて、同社はMETRの職員6名に専用のハードウェアやオフィス空間、社内ツールおよびシステムへのアクセス権を付与した。顧客データや法的な秘匿特権情報、モデルアーキテクチャなどの限定された除外事項を除き、Anthropicの従業員はリスク評価に関して同僚と同様に情報共有を行うことが推奨される。METRはリスク水準や事例に関する分析結果を公開でき、Anthropicは特定カテゴリの情報削除を求めることはできるものの、公開そのものを拒否することはできない。

3段階のアクセス権設計と他社への展開

Anthropicは外部評価者へのアクセス権を3段階に区分して運用している。第1段階は範囲を絞った調査で公開には同社の承認が必要となり、第2段階では同社の事前承認なしでの公開が可能となる。METRが該当する第3段階では、社員並みのアクセス権と自由な公開権が付与される。同社は過去1年間にわたりMETRと連携してきた経緯があり、前月には第三者評価の強化や「超知能に関するホワイトハウス合意」への署名を表明していた。

現在は他の組織とも段階的な連携を進めている。生物化学兵器分野のリスクを検証するSecureBioは第1段階に位置しており、2026年8月のリスク報告書に関するレビュー完了後にアクセス権の拡大が検討される予定である。また、AccentureやFacultyともモデルの安全性テストや評価に向けた提携を進めており、同社は今後も信頼関係の構築に応じて、社内常駐型の独立評価者を増やしていく方針を示している。