オラクル、AIの誤作動や情報漏洩を防ぐ新設計を発表　基盤側で安全性を自動管理

米オラクルは、企業のシステム基盤そのものに信頼性を組み込む設計指針「Deep Trust AI Architecture」を発表した。個々のAIエージェントやアプリケーション側で安全性を担保するのではなく、基盤側の機能として統制を行う。ソフトウェア・プラットフォーム、データ、データ・アクセス、アプリケーション開発の主要な4レイヤーに保護機能を配置し、AIモデルによる迂回や侵害を防ぐ構成を採用している。

近年、企業内でAIエージェントやAI生成アプリケーションの導入が進む一方、機密情報の漏洩や業務ルールの逸脱、AIと社内システムの連携制御が課題となっている。また、攻撃者がAIを利用して脆弱性を早期に特定する危険性も高まっている。これに対し同アーキテクチャでは、「Oracle Autonomous AI Database」の自動パッチ適用機能を活用し、OSからストレージ、ファームウェアに至るまで稼働を停止させずにセキュリティ更新を適用する体制を整える。

データアクセスの制御では「Oracle Deep Data Security」を用い、データベース内でエンドユーザーのアクセス権限を直接判定する。暗号署名付きトークンによって利用者を識別したうえで、「Oracle SQL Assertions」を通じて支出上限の超過を防ぐといった業務ルールを強制する。これにより、外部のエージェントやAI生成アプリが不正なSQLリクエストを発行しても、データベース側で実行を遮断できる。

業務データの利活用においては、「Oracle Deep NL2SQL」が社内の用語や指標などの業務知識を付与し、自然言語による問い合わせから正確なSQLを生成する。利用者が回答を修正する学習機能や、ナレッジベースへの取り込み前に内容を検証する機能も備えた。さらに「Oracle APEX AI Application Generator」では、AIに実行コードそのものではなく宣言型の定義言語を生成させることで、コード管理の負担やセキュリティリスクを抑えながら迅速なアプリ構築を可能にする。

オラクルのAI Database Technologies担当エグゼクティブ・バイスプレジデントであるホアン・ロアイザ氏は、AIが生成する成果物の信頼性確保が企業にとって最大の課題であると指摘し、各レイヤーに信頼性を組み込む重要性を説明した。オラクルは同構想を推進するため、クラウドやオンプレミス向けのセキュリティおよびパッチ適用ツールを、2027年2月末まで無償または大幅な割引価格で提供するとしている。