Amazon Quickに新機能、AI作業の日常確認を自動化し重要判断のみ人に通知

Amazon Quickにおいて、AIエージェントの操作を自動で選別して人手による承認負担を軽減する機能「Smart Approvals」が発表された。AIエージェントの多段階の作業ですべての工程に承認を求めると、定型作業の繰り返しによって利用者の注意力が低下する課題がある。新機能は既存の権限管理の枠内で動作し、日常的な処理を自動で承認しつつ、人手での判断が必要な操作を確実に利用者の確認へ戻す。

Smart Approvalsは、独立した分類モデルを用いて提案された操作を評価する。利用者の要求内容や会話の文脈に加え、組織内の関係性を記録したナレッジグラフを参照して影響範囲を判断する仕組みだ。例えば、約2,000人の全社メーリングリストへの送信や組織外へのデータ送付、上位役職者への連絡、権限変更、支払い処理といった操作は自動承認の対象から外れ、人による確認を求める。また、外部データ内の指示によってエージェントが誘導される間接プロンプトインジェクションへの対策として、取得した情報は指示ではなく情報として扱う制御が行われる。

自動承認は1回限り有効で、レビューされた特定の操作とパラメータにのみ適用され、恒久的な権限は与えられない。判定に失敗した場合やタイムアウト時は自動承認されず、利用者の確認へ差し戻される。操作履歴や権限チェックの判定結果はAWS CloudTrailに記録され、Amazon CloudWatch Logsのチャットログなどと照合して事後検証できる。CloudTrailのイベント履歴は保持期間が90日間のため、長期調査には証跡の設定が推奨されている。