AIへの指示を書き換え勝手に広告を出す新手法、指示の乗っ取りにセキュリティ企業が警告

サイバーセキュリティ企業のチェック・ポイント・ソフトウェア・テクノロジーズの研究部門であるチェック・ポイント・リサーチ（CPR）は、AIエージェントの指示を継続的に改変し、外部サービスの広告を挿入する手法「プロンプト型アドウェア」を発見したと公表した。従来の実行可能コードを使わず、自然言語による指示や設定ファイルを通じてAIの挙動を操作する新たなセキュリティリスクとして注意を呼びかけている。

この手法は、OpenAI Codexの制限回避を試みるツール群「Haiou」の解析過程で特定された。Haiouは複数のプロンプトインジェクション手法を用いるだけでなく、AIエージェントの全体的な指示を書き換え、一般的な挨拶などのやり取りをきっかけに第三者のAIゲートウェイを宣伝する広告を出力させる。従来の不正ソフトウェアとは異なり、プログラムコードではなく自然言語の指示そのものを変更するため、通常の動作監視では改変を把握しにくい特徴を持つ。なお、CPRがClaude Codeで検証した際には、この注入された指示が検知され拒否されたという。

現時点でHaiouによる企業情報の窃取や、宣伝されたゲートウェイ自体の悪意ある挙動は確認されていない。しかしCPRは、企業において独自開発コードや社内データを扱うAIエージェントの導入が進むなか、同様の手法が悪用されれば機密情報の外部流出や推奨内容の不正な誘導につながる懸念があると指摘する。実行コードの追跡が可能な従来のソフトウェアと比べ、自然言語指示や設定がモデルに影響を与える環境では原因の特定が難しく、AIを取り巻くツールの可視性と管理の重要性が高まっている。