AIの「記憶あふれ」を防ぐ新手法、会話量を最大97％削る仕組みをAWSが解説

米アマゾン・ウェブ・サービス（AWS）は公式機械学習ブログにて、データ分析やレポート作成を担う実運用向けAIエージェントにおいて、大規模言語モデル（LLM）の入力枠（コンテキスト）の枯渇を防ぐ「コンテキストエンジニアリング」の4層構造とその実装手法を解説した。検証ではオープンソースのマルチエージェント分析ソリューション「Deep Insight」を題材とし、ツールの工夫によってコード生成時の消費情報量を約95％削減、スキルの動的読み込みにより起動時のシステム指示文を約97％縮小した実績を示している。

長時間タスクで生じる「文脈の劣化」と課題

Amazon Bedrock上で提供される「Anthropic Claude Sonnet 4.5」などは20万トークンの広い入力枠を持つ。しかし、販売データの分析から5つのグラフ作成、統計検証、文書レポート出力までの一連の作業を行うと、15分間で15万トークン以上を消費してしまう。1つの枠ですべてを処理しようとすると途中で枠の上限を超えたり、古い情報が溜まることで判断精度が落ちる「Context rot（文脈の劣化）」を引き起こしたりする問題があった。これに対し米Anthropicが2025年9月に発表した知見などを基に、多層防御の考え方で最適化を図る。

4つの層で情報を絞り込む実装技術

第1層は「アーキテクチャ階層での分離」だ。統括役や計画役、コーダー役など役割ごとに独立したエージェントを配置し、共有データは圧縮された要約結果（clues）や計画表など4項目に限定する。最も消費の大きいコーダー役でも2万5000トークン以下に抑制できる。

第2層は「プロンプトによる制御」である。各エージェントの最大返答長を指示文で制限するほか、過去のコードを参照せずに済むよう「スクリプト間で変数は保持されない」といった独立前提のルールを課す。

第3層は「ファイルシステムへの外部化」だ。従来のようにファイル作成と実行を分けると100行単位のコードが会話履歴に蓄積するため、単一の実行ツール（write_and_execute_tool）にまとめて結果の要約（約3行）のみを返すことで約95％の消費を抑制した。また、頻出関数を共通モジュールにまとめて重複生成を省く手法や、「all_results.txt」という外部ファイルに詳細を書き出して約30トークンの完了報告だけを渡す連絡手法を採用した。さらに、2万トークン超に膨らむ各種業務の手引き（スキル）を最初から読み込まず、初期状態では約500トークンの目録のみを保持して必要な時だけ約3000トークンの詳細ガイドを読み込む設計とした。

今回の解説は全3回シリーズの第2弾であり、今後はセキュアなネットワーク環境での運用方法を取り上げる「Part 3」の公開が予定されている。