複数の特化型AIをまとめて軽量化、性能低下を抑える新手法が登場

基盤モデルを特定用途向けに効率よく調整する手法「学習させる軽量なファインチューニング手法。少ないGPUで手軽にカスタマイズできる。">LoRA」を多数同時に運用する環境に向けて、機能維持と容量削減を両立させる圧縮手法「Functional Rank Allocation（FRA）」が提案された。共有リソースの制約下では、単一のアダプタ内の層ごとだけでなく、フリート全体のアダプタ間でも容量の配分を最適化する必要がある。

学習済みLoRAには冗長な成分が多く含まれるものの、単純な再構成だけでは機能的な許容度を判断できない課題があった。FRAはラベルなしデータを用いてモジュールごとの切断影響を測定し、動的計画法によって最適な配分候補を探索する。さらに候補全体の再計測とスペクトル提案を組み合わせることで、機能低下のリスクを抑えた配分を実現する。

3つの公開フリートから収集した78個のアダプタを用いた検証実験では、一様なスペクトル圧縮と比較して、厳しいリソース制約下における最悪ケースおよび下位の性能維持が改善されたことが確認された。