高価なAI用半導体を自動で小分け共有、米ゼスティが無駄買い防ぐ新機能を発表

Kubernetes環境の最適化を手がける米Zestyは2026年10月15日、NVIDIAのCUDAネイティブなGPU分割技術に対応する新機能「Automated Fractional GPUs」を発表した。NVIDIAがAIプラットフォームの一部として「Run:ai」をオープンソース公開したことを受けた取り組みである。需要の変動に応じてGPUのメモリ割り当てや計算資源の共有方式、ワークロードの配置を自律的に調整するレイヤーを提供し、既存のインフラ上でより多くの処理を実行できるようにする。

固定分割によるGPUの遊休を解消

Zestyによると、生成AIモデルをホストする組織の66％が推論処理の一部またはすべてをKubernetes上で実行している。しかし、AI処理に必要なGPU容量は高価であり、確保も難しい。従来はワークロードごとにGPUを丸ごと割り当てるか、タイムスライシング、NVIDIA Multi-Process Service（MPS）、NVIDIA Multi-Instance GPU（MIG）を用いて固定的に分割して共有する手法が取られていた。こうした固定的な割り当てでは刻々と変わるAI処理の需要に追随できず、計算資源が活用されないまま放置され、既存の容量が余っているにもかかわらず追加のGPUを購入する課題が生じていた。

実際の稼働状況に基づく自律割り当て

NVIDIAが公開したRun:aiの「GPU Fractioning Operator」により、Kubernetes上でメモリ上限の設定や分割自体は可能になったが、どの処理同士でGPUを共有し、どれだけの容量を割り当てるべきかを判断する機能は含まれていない。Zestyの新機能はこの判断層を担う。実際のGPUメモリ使用状況や稼働率、長期的なワークロードの挙動、事前に定められた遅延要件やリソース上限に基づき、割り当てや増減を継続的に自律決定する。これにより、事前に定めた性能や可用性のポリシーを維持しながら運用の効率化を図る。

コード変更なしで迅速に導入可能

同機能はKubernetesクラスタ内に軽量なエージェントとして導入され、GPU Fractioning OperatorおよびKubernetesスケジューラと連動して機能する。タイムスライシングとMPSの両方に対応し、アプリケーションのコードやモデルの改修を必要としない。また、導入にあたって稼働中のワークロードを再起動する必要もなく、最適化に必要なKubernetesの設定変更も手動のマニフェスト編集なしで処理される。

ZestyのR&D担当バイスプレジデントであるPini Ben Nahum氏は、「GPUはインフラチームが管理する中で最も高価で制約の厳しいリソースだ。NVIDIAが分割技術を開放したことを受け、Zestyはその割り当てをインテリジェントかつ自律的なものにする。性能を犠牲にすることなく既存の機器に多くの処理を集約し、本番環境でのAI運用コストを削減できる」と説明している。同機能は同日よりZestyプラットフォームの一部として提供されている。