OpenAI、防衛AI開発のHacktronと提携　自社システムの弱点検証を強化

米OpenAIは、自社システム内の脆弱性を発見・修正するため、セキュリティ企業のHacktronと提携したと発表した。両社の技術者が協力し、OpenAIのシステムが外部のサードパーティサービスと相互作用する領域を中心に、優先度の高い検証を進める方針だ。

提携の一環として、OpenAIはセキュリティ検証基盤「Daybreak Red」を通じ、Hacktronに対して自社のフロンティアモデルへのアクセス権を拡大する。Hacktronはソースコードの確認や侵入テスト、疑似攻撃を行うレッドチーム向けのAIエージェントを構築している。これまでにアプリケーションやクラウド基盤、認証システムが連携する過程に潜む脆弱性を特定してきた実績を持つ。

OpenAIは、外部の技術者が脆弱性を報告して報奨金を得る「セキュリティ・バグバウンティ・プログラム」を通じてHacktronの存在を知り、報告された脆弱性の影響力の大きさを評価して連携に至った。AIエージェントがさまざまなサービスを接続する機会が増える中、こうした複合的な検証手法が重要になると説明している。

OpenAIは今回の発表と同じ週に、次回のセキュリティ集中開発期間（スプリント）でCathedralの研究者チームと協働することや、外部技術者による検証を促すためにバグ報奨金の金額を引き上げたことも明かしている。自社内での検証にとどまらず、外部の知見や専用のAIツールを積極的に取り入れ、防御体制の強化を急いでいる。