複数のAIが連携するシステムで注文ごとの費用を計算し最大61%削減する新手法
要点 3行
- 複数のAIが連携するシステムでは請求データから業務1件あたりの利用費用を把握できない課題があった
- 請求データと呼び出し単位の利用記録を結びつけ、ほぼ即時に業務単位で原価を計算する手法を提案した
- シミュレーション検証では99%以上の費用を特定し、突出したコストを最大61%削減できると確認した
複数のクラウドや大規模言語モデルをまたいで動くマルチエージェントAIシステムにおいて、業務取引単位でAIの利用コストを把握する手法「Two-Ledger Model」を提案する論文が公開された。従来の請求データは製品区分や請求期間でまとめられており、注文や問い合わせといった個別の業務処理にいくらのAI費用がかかったのかを判別できない粒度の不一致が課題となっていた。
本研究では、標準的な請求データによる精算台帳と、テレメトリ技術に基づく呼び出しごとの帰属台帳を統合する仕組みを考案した。階層的な照合技術を用いて各呼び出しを業務取引に対応づけ、料金表をもとにほぼ即時で費用を算出する。請求書との定期的な照合により、把握できていないシャドーAIの支出も検出可能にした。
シミュレーションによる検証では、追跡情報が失われた状況でも99%以上のコスト網羅率を維持した。さらに、処理の途中で制限をかける制御により、誤判定による一時停止率を2〜4%に抑えつつ、突出した取引コストを最大61%削減できることを示した。
この記事は arXiv cs.AIの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く