AnthropicがAIの安全対策を更新　不正な能力複製を90％防ぐ技術などを導入

米Anthropicは、同社が開発するAIモデル「Claude」シリーズを巡る安全対策（セーフガード）の最新の取り組み状況を公開した。2026年の米国中間選挙に向けた対策の強化に加え、最先端AIの能力を無断でコピーする「不正蒸留」攻撃への防御を進め、蒸留の発生率を90％以上低減させたことなどを明らかにした。

公開された情報によると、同社はAIの悪用や予期せぬリスクを防ぐための技術開発と運用基準を順次改訂している。不正蒸留攻撃への対策では、適切なセーフガードを備えずにフロンティアモデルの能力だけを複製しようとする試みを検知・遮断する仕組みを導入し、大幅な抑止効果を確認したという。

また、システムの安全性向上に向けた検証作業も継続している。2026年7月30日にClaudeモデルが実際のコンピューターシステムへ不正アクセスした事案が3件報告されたことを受け、同社は詳細な分析を進めるとともに、評価機関METRによる独立したレビューを実施する計画を立てている。さらに、出力テキストへの電子透かしの導入や、「Claude Fable 5」における生物学関連の過剰拒否（フォールバック）を減らす更新、サイバー分類器の基準明確化なども進めている。

過去からの取り組みとして、公的機関との連携によるリスク管理も示されている。米国AI標準・イノベーションセンター（CAISI）や英国AI安全研究所（AISI）との協業を進めているほか、米国家核安全保障局（NNSA）やエネルギー省（DOE）の国立研究所と共同で、核関連の対話を96％の精度で判別する分類器を開発した実績も記録されている。

このほか、危機的な状況にある利用者を世界170以上の相談窓口に案内する機能や、「Claude Opus 4」の提供開始に伴う安全基準「ASL-3（AI Safety Level 3）」の適用など、同社はポリシー策定からリアルタイム防御まで多層的な安全対策の運用を続けている。