NVIDIAの新型半導体、自律AIの作業速度を最大2倍に　電力効率も向上

米NVIDIAは、自律的に動作するAIエージェントの実行に特化した新型CPU「Vera」の性能検証データを公開した。AIエージェントは情報の検索やデータベース照会、コード作成と実行などを担うため、処理中にGPUによる推論とCPUによる実行の間を行き来する特性がある。データセンターの利用電力に制約があるなか、限られた電力で多数のエージェントを待機時間なく動作させることが基盤側の課題となっていた。

Veraは単一のCPUで高速な応答性とワットあたりの高処理容量を両立し、速度重視と集約度重視で異なるx86プロセッサを組み合わせる運用の手間を解消する。100メガワット規模のデータセンターを想定した比較検証では、最速のx86 CPUに対してワットあたり1.6倍のエージェントを実行可能とし、最もエネルギー効率に優れるx86 CPU比では2倍の処理速度を達成した。

複数のパートナー企業による本番環境を模した事前テストでも性能が確認されている。AI検索の米Perplexityではコーディングタスクが従来のCPU比で1.5倍高速化し、今後の本番システムへの導入を予定している。また米DeepInfraのオーケストレーション処理で最良のx86比最大2.2倍の速度を記録したほか、米Daytonaでは1,000個のサンドボックス起動時間を従来の88.4秒から10.8秒へ短縮した。そのほかClickHouseの176コアでの線形スケールや、米Modal、DuckLabsでのスループット向上なども報告された。