最大70%もコスパ改善!? 音声AI大手がAWS独自チップを選んだ裏側に迫る

同じ予算で処理できる音声データが最大70%も跳ね上がる——。AIの計算コスト高騰に頭を抱える企業が聞けば、「そんなうまい話があるのか」と耳を疑いたくなるはずだ。音声AI大手の米ディープグラムが発表した驚異的な効率改善は、看板倒れの誇大広告なのか、それとも本物の技術革新なのか。

公式発表によれば、ディープグラムは主力の音声認識モデル「Nova-3」を、米アマゾン・ウェブ・サービス（AWS）のAI向け半導体「Trainium2」へ移植。従来の計算環境と比べ、1ドルあたりに処理できる音声の量が11〜70%向上したというから驚きだ。年間数千兆もの音声トークンをさばく同社は、数カ月間にわたりAWSの専任部隊とタッグを組んで移植を断行。AWSのコンパイラを用いてCPUに依存しない処理環境を構築したほか、チップが備える8個の物理コアで8モデルを独立して同時稼働させ、さらにプログラミング言語Rustで独自の軽量実行環境を開発してPythonの並列処理比で7.5%の性能向上を達成したという。

ここからは編集部の推測だが、最大の「70%改善」という数字はあらゆる利用シーンで無条件に達成されるわけではなく、コンタクトセンター分析や医療記録といった一括音声処理において、徹底的にチューニングを突き詰めた結果として出た数値である可能性が高い。また、Rustによる実行環境の開発や計算層の統合といった泥臭いエンジニアリングを数カ月かけて積み重ねている点を見ても、単にハードウェアを載せ替えるだけで誰でも魔法のようにコストが激減するわけではない、と考えるのが自然だろう。

確かなのは、専用半導体のポテンシャルを極限まで引き出すことで、大規模な音声処理の費用対効果が劇的に改善したという事実だ。一方で、この大幅な恩恵を一般的なユーザーが自前環境でどこまで再現できるのかは、今後のプライベートクラウド展開の検証を待つ必要がある。