自律型AIの安全性と費用対効果を管理、米SandboxAQが企業向け新機能を発表

米SandboxAQは2026年10月19日、企業向けAIエージェント管理基盤「Switch AI」の拡張を発表した。新たに「Switch Trust」と「Switch ROI」の2つの機能を提供し、自律的に判断・行動するAIエージェントのリスク評価やビジネス価値の測定、性能最適化を支援する。特定のAI提供元に依存せず、社内の文脈やデータを自社で管理したまま、複数のモデルやエージェントを一元的に運用できる環境を整える。

同社は2026年8月、人間とAIエージェントがSlackやMicrosoft Teams、Discordなどの業務ツール上で共通の文脈を共有しながら協業できるオープンソース製品「Switch Rooms」を公開していた。従来の企業向けAI導入はライセンス数や利用量で測られていたが、意思決定を行い自律的に動くエージェント型AIの普及に伴い、安全性や説明責任の確保が課題となっている。米調査会社ガートナーは、2027年末までにエージェント型AIプロジェクトの40％以上が中止されると予測しており、投資対効果を確立できていると答えた企業リーダーはわずか7％にとどまる。

新機能の「Switch Trust」は、企業内で稼働するすべてのエージェントを検出し、安全性を検証・監視する仕組みだ。稼働中のモデルやツール、依存関係を棚卸しする「発見」、脆弱性を静的解析とAIで分析する「スキャン」、プロンプトインジェクションやデータ漏洩などの疑似攻撃を行って評価する「評価」、そして本番環境での安全ポリシー違反や個人情報の流出を検知・遮断する「監視」の4段階で運用する。

一方の「Switch ROI」は、各エージェントの費用対効果を可視化する。API呼び出し回数などのインフラ指標ではなく、解決された問い合わせ数や自動化されたタスクといった実際の成果と費用を紐づけて測定する。人間が作業した場合の基準値と比較して純投資対効果を算出するほか、使われていない機能や過剰なモデル選択、重複した処理などの無駄を特定し、削減可能なコストの試算を提示する。

先行事例として、米医療機関マウントサイナイ・ウェスト（Mount Sinai West）のMSW Labが、医師による臨床向けアプリケーション開発フレームワーク「G Board」にSwitch Trustを採用した。同院心臓病科チーフのJeffrey Bander医師は、医師がAIセキュリティの専門家にならずとも、安全性が証明されたエージェントを活用して臨床課題の解決に集中できる環境が整ったとしている。