日常業務を手元の小型AIで処理しクラウド利用を8割削減 AWSが新手法を公開
- AWSが端末側の小型AIとクラウドを組み合わせ、運用コストを抑えるエージェント構築手法を解説した。
- 小型AIが要求内容を判断し、日常的な処理は端末内で完結させ、高度な推論のみをクラウドへ送信する。
- 約8割の通信を有料APIから手元の処理へ置き換えることが可能で、8GBメモリの小型端末でも動作する。
米アマゾン・ウェブ・サービス(AWS)は、AIエージェント運用の通信費用と遅延を抑制する構成手法「AAIF(Adaptive Agentic Intelligence Framework)」を公式ブログで解説した。すべての指示をクラウド上の大規模なAIモデルに送信する従来の手法を改め、手元の端末で動く言語モデル。安く速く、用途を絞れば大型モデルに匹敵する。">小規模言語モデル(SLM)とクラウドサービス「Amazon Bedrock」を連携させて処理を効率化する。
AIエージェントの開発現場では、日常的な機器の確認から高度なデータ分析まで、あらゆる要求を1つの巨大なモデルに送る設計が課題となっていた。この方式ではAPI利用料が跳ね上がるだけでなく、ネットワーク遅延の発生やオフラインでの動作が不可能になるといった問題が生じる。本手法は、米NVIDIAのBelcak氏らの研究に基づき構築された。同氏らは「エージェントシステムにおける多くの実行において、小規模言語モデルは十分に強力であり、本質的により適しており、必然的により経済的である」と指摘している。
AAIFではオープンソースのエージェント構築ツール「Strands Agents」と、ローカル推論環境「Ollama」を組み合わせて3層の仕組みを構築する。まず、10億(1B)パラメータの小型モデル「llama3.2:1b」が指示の内容を理解し、固定ルールを使わずに適切な処理先を判断する。機器のセンサー情報取得や、画像認識モデル「llama3.2-vision」を用いたカメラ映像の解析といった日常業務は、手元のハードウェア上で完結させる。一方で、より広範な文脈や多段階の推論が必要な高度な分析だけを、Amazon Bedrock上の基盤モデルに送る。
この仕組みは配備環境に合わせて柔軟に変更できる。8GBのメモリを搭載した小型PC「Raspberry Pi」のような端末で動かすことも、すべての処理をクラウドに委ねることも可能だ。日常的な要求を手元で処理する標準的なハイブリッド構成では、トラフィックの約80パーセントが有料のクラウドAPIを経由せずに済むため、利用費用の抑制が見込める。また、機密保持が厳格な環境では、30億(3B)パラメータのモデルを手元で動かすことで完全なオンプレミス運用にも対応する。
さらに本番展開に向けて、エージェント間で機能を共有するための通信規格「Model Context Protocol(MCP)」への対応や、不適切な出力や指示の乗っ取りを防ぐ「Amazon Bedrock Guardrails」による安全対策の連携手順も紹介されている。AWSはこのアーキテクチャがIoT監視だけでなく、医療機関での患者見守りや金融取引の監視、製造現場の品質管理など幅広い分野に応用できるとしている。


この記事は AWS 機械学習ブログの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く