AI中継のOrcaRouter、生成速度が最大3倍に　応答待ち時間も最大45％短縮

FlashLabsは、日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」において、2026年11月1日と2日に大規模なインフラアップグレードを実施し、推論速度を大幅に改善したと発表した。AIモデル「DeepSeek V4.1 Flash」の推論速度が最大3倍に向上したほか、プラットフォーム全体で初回応答時間を最大45%短縮した。利用料金は据え置きのままで、すべてのユーザーが追加費用なしで利用できる。

AIエージェントや大規模なAIアプリケーションの実用化に伴い、推論速度は利用時の体感だけでなく、タスク完了までの時間や実行コストそのものに直結する要素となっている。これを受け同社は、1回目のアップグレードとしてDeepSeek V4.1 Flashを稼働させるクラスタ全体を刷新した。これにより、出力速度を従来の毎秒60〜75トークンから毎秒160〜230トークンへ引き上げた。

続く2回目のアップグレードでは、プラットフォーム全体の共通基盤を改修した。リクエストを受け取ってから最初の応答が始まるまでの時間（初回応答時間・TTFT）について、P50・P90・P99のすべての指標で最大45%短縮した。あわせて、大規模リクエスト時に発生していたタイムアウトの問題も修正し、規模の大きい推論ワークロードを高速に処理できる環境を整えた。

DeepSeek V4.1 FlashはDeepSeek社が開発した大規模言語モデルで、OrcaRouter上ではテキストと画像の入力に対応し、最大100万トークンのコンテキストと最大38万4,000トークンの出力をサポートする。料金はプロバイダー定価のまま上乗せなしとなる、100万トークンあたり0.60（オフピーク時）で提供される。

OrcaRouterは米国の研究機関Continuum AIが開発した推論ゲートウェイで、OpenAI互換のAPIを通じてAnthropic、OpenAI、Google Gemini、DeepSeek、Grok、Qwenなど200以上のモデルに対応している。直近ではGPT-6.1 SolやClaude Sonnet 5.5、Gemini 3.8 Flash、Grok 4.6などの最新モデルを追加している。同社は今後もモデル拡充とともに基盤の性能向上を継続し、速度・コスト・信頼性の3軸でインフラを進化させるとしている。