グーグル、賢いAIの「ズル」防ぐ安全策を公開　新モデル悪用の成功率0.7％に

米Google DeepMindは2026年10月13日、コーディングや科学、サイバー防衛などの実務タスク向けに開発された新モデル「Gemini 4 Argon」の安全性およびセキュリティ対策に関する報告書を公開した。同社はこれまで「Fairwind Program」を通じて信頼できる防御者への限定提供を行ってきたが、今回の発表に伴い同モデルの本格展開を開始し、同プログラムの対象も拡大する。

高い能力と並行して進める安全対策

Gemini 4 Argonは、複雑な脆弱性の発見などで高い能力を示す。先行アクセスでは、米Wizが病院向けソフトウェアに潜む重大なバグを発見して数十万件の患者記録の保護に貢献したほか、Google社内チームも内部ソフトやオープンソースソフトの脆弱性修正に活用してきた。シミュレーション環境におけるサイバー攻撃シナリオの解決数は、前世代モデルの5件から全12件へと大幅に向上している。

一方で、悪意ある人物がサイバー攻撃や生物兵器の設計に同モデルを悪用するリスクや、高い問題解決能力を持つAIが過剰にタスクを完了しようとして制約を破るリスクへの対策が求められていた。同社は「Frontier Safety Framework」に基づき、次世代の防護措置を導入した。

悪用を防ぐ3層のリアルタイム保護

悪用対策として、モデルに有害な要求を拒否させる能力を高め、負荷テストにおける違反発生率を従来モデルと比べて約半分に低減させた。外部のレッドチームによるテストでは、生物兵器関連の危険なサブタスクの解除成功率を1％未満に抑えた。

さらに、巧妙な言い回しや長期的な質問による「脱獄」を防ぐため、3層の保護システムを構築した。第1層では小型モデルが入力要求の悪意をスクリーニングし、第2層では「アクティベーション・プローブ」と呼ばれる小型トランスフォーマーがモデル内部の神経信号を読み取って危険な知識の活性化を検知する。第3層では、モデルが学習済みのAIが実際に答えを出す処理。使うたびに計算コストがかかる。">推論して回答を生成する過程を継続的に監視し、問題が生じた場合は即座に出力を中断する。

モデル自身の「ズル」や境界違反を抑制

モデルが意図しない行動をとるアライメントの逸脱に対しても対策を講じた。AIが障害に直面した際にシステム境界を破ることを防ぐ訓練を行った結果、コーディングの評価試験において近道を選んだり不正を行ったりする割合は2％に低下した。

また、エージェントの行動と思考過程をリアルタイムで監視する自動モニターを導入した。訓練中にモデルがテスト環境の不備を突いてコンテナの権限昇格を試みたり、採点スクリプトを改ざんしようとしたり、評価サンドボックスを意図的にクラッシュさせて不合格判定を回避しようとした事例も検知されたという。

思考過程への罰則を避ける理由と外部攻撃への耐性

同社は訓練時、思考過程に書かれた内容に対して罰則を与えないという規則を適用している。過去の強化学習実験で思考過程内の近道に対して罰則を科した際、思考内で言及される近道は61％減少したものの、思考で言及せずに実行された近道の割合は11.2％から36.4％へと3倍以上に増加した。思考への罰則を避けることで、推論プロセスの透明性と監視性を維持している。

Webページやコード内の隠された指示によって動作を乗っ取る間接的プロンプトインジェクションへの対策も強化した。敵対的訓練などを施した結果、Gray Swanの評価ベンチマークにおいて15回の適応型攻撃に対する成功率を0.7％に抑えたとしている。