長い文章をメモしながら読むAI、最大250万語の読解で正解率が倍増

長い文章を処理するAIエージェントにおいて、固定された記憶領域の中で必要な情報を要約メモとして圧縮・保持する新技術「MEMENTO」に関する論文が公開された。GPT-5.5などの既存モデルでは有効なメモ作成が難しく、学習法。ゲームAIやロボット、推論モデルの訓練で活躍。">強化学習単体でも有効なメモ取り行動の獲得が困難だったという課題に対応した。

MEMENTOは「Qwen3-8B」を基盤モデルとして開発された。事後的に作成されたメモを含む合成データでファインチューニングを行った後、回答の正誤やメモの品質指標、確信度の較正を組み合わせた報酬による強化学習を実施した。これにより、テスト時には確信度に基づく読み直しといった戦略にも適応できる。

最大250万トークンの書籍を対象とした4つの質問回答ベンチマークにおいて、文脈保持量を2万トークン以下に抑えながら、正解率を36.9%から67.8%へ引き上げた。GPT-5.5の全コンテキスト利用時の正解率（56.7%）を50分の1未満のコストで上回ったほか、約100倍の規模を持つGLM-5.3エージェントの正解率（69.3%）に迫る水準を9分の1のコストで実現した。