ProVision、安全なAI開発を設計段階から支援する専門サービスを開始

株式会社ProVisionは、AIを組み込んだシステムを開発・運用する企業向けに「AIシステム開発セキュリティコンサルティング」の提供を開始した。品質保証（QA）業務で培った知見を活かし、要件定義や設計といった開発の初期段階からセキュリティ対策を支援する。

AIを組み込んだシステムでは、従来のセキュリティ対策に加えて、AIが参照できるデータや実行できる操作範囲の制御、プロンプトインジェクション対策など、特有の観点を検討する必要がある。社内文書を検索するAIでの参照範囲の制御や、外部ツールを利用するAIエージェントの操作範囲などはシステム構成そのものに関わるため、開発が進んだ後に対策を加えようとすると設計の見直しが生じる課題があった。

新サービスでは、システムの仕様やAIの挙動から想定される脅威を洗い出し、セキュリティ要件や構成を確認する。外部接続時の認証や実行環境の分離、文書ごとの権限設定を行うデータセキュリティ設計、不正利用を想定した疑似攻撃によるテスト（AI Red Team）などのメニューを提供する。さらに、AIの入出力を制御するガードレール設計や、運用時の監査ログ設計に対する助言も行う。

ProVisionは従来から「AIシステム脆弱性診断」や「AIシステム品質検証」を展開している。新サービスと組み合わせることで、上流工程でのセキュリティ設計から開発後の検証まで一貫して支援する体制を整えた。同社は今後も品質検証サービスを拡充し、企業のAI活用を支援していくとしている。