他の利用者に影響されずAIの回答を完全一致させる新手法、処理速度を2倍以上に向上

大規模言語モデル（LLM）の推論において、同時に処理される他のリクエストに左右されず同一の出力を得る再現性技術「BlockLock」に関する論文が公開された。既存の再現手法は専用の演算処理に制約を課すか、計算の共有を諦めることで効率を低下させていた。

BlockLockは共有バッチ処理を維持しながら、保護対象となるリクエストの数値計算経路のみを固定する。固定幅の行を用いて全体のバッチ処理を維持する「BlockLock-Rows」と、隔離処理を行って対象のみを生成する「BlockLock-Pack」の2種類の手法を提供する。

Qwen3やLlama-3.1などのモデルおよびNVIDIA製GPUを用いた検証では、tinyBenchmarksなどでビット単位の出力一致を確認した。BlockLock-Rowsは既存のvLLM Batch-Invariantと比較し、遅延を53.5〜55.0%削減し、処理能力を115.2〜122.2%向上させた。