スループットとは
一定の時間内にコンピューターやAIシステムが処理できるデータ量のこと。AIの文章生成スピードやサーバーの性能を評価する際によく使われる指標。
たとえるなら — 道路で1分間に何台の車が通過できるかという交通量の多さに似ています。
実務モデルと技術throughput処理能力
「スループット」が出てきたニュース
- 1つのAIが分身して同時に調べる新技術 250倍巨大なAI超える精度達成
- 他の利用者に影響されずAIの回答を完全一致させる新手法、処理速度を2倍以上に向上
- NVIDIAの新型半導体、自律AIの作業速度を最大2倍に 電力効率も向上
- 顧客対応AIの米DialpadとカナダAdaが統合 人と共同で問題解決する基盤開発へ
- エヌビディアが記憶容量不足を解消、計算効率を最大30倍高める新設計を公表
- サイバー攻撃の事前検証向けに制限を解除したAIが登場、画像や長文分析に対応
