4000万人支えるAIがパニック!? Postman明かす「15個絞り込み」の裏側

開発者4000万人を抱えるAPIの巨人「Postman」が導入したAI機能。最先端モデルさえ使えば、あらゆる作業をスマートに自律実行してくれる――そう思われがちだが、本当に現場はそんな順風満帆だったのだろうか。実は、機能を増やした途端にAI自身が混乱に陥り、使い物にならなくなる危機に直面していたというのだ。

Postmanが公開した運用基盤の設計手法によると、同社のAI機能「Agent Mode」（推論にはAWSのAmazon Bedrockを採用）がぶつかった最大の壁は、プロンプトの調整ではなく「機能の多さ」による誤作動だった。なんと検証の結果、利用可能なツールが約40個を超えると選択ミスが急増し、存在しない機能を呼び出す現象まで判明したという。そこで同社は、170個を超える機能からベクター検索でタスクに必要な約15個へ動的に絞り込んでサブエージェントに渡す構造を導入。さらに画面表示用の生データを直接渡さず、推論に必要な情報だけを抽出する専用ハンドラーを設けるなど、極めて泥臭い交通整理を施していたのだ。

ここからは編集部の推測だが、Postmanが直面したこの「ツールの肥大化」と「情報のノイズ」は、長年人間向けUIを進化させてきた老舗SaaSがAIエージェント化を急ぐ際に必ずぶつかる共通の罠とみられる。画面描画用データをAIに丸投げすればコンテキスト枠がすぐパンクするため、既存システムとモデルの間に立つ専用の「通訳レイヤー」を作らざるを得なかったと考えるのが自然だ。また、複数リージョンへの自動負荷分散を敷いている点からも、大規模コミュニティからのアクセス急増によるダウンをいかに警戒していたかがうかがえる。

確かなのは、4000万人規模の展開を支えた鍵がモデルのスペックではなく、AIに渡すツールを15個前後に絞り込み、情報を削ぎ落とすという地道なアーキテクチャだったことだ。同社は今後ファイルシステム型のコンテキスト管理などを検証するとしているが、この設計がどこまで汎用的な正解となるのかは、今後の運用成果を見極める必要がありそうだ。