レートリミットとは

一定の時間内にシステムやAIサービスを利用できる回数やデータ量の上限のことです。サーバーの混雑による負荷や悪用を防ぎ、すべての利用者が安定してサービスを使えるように設定されます。

たとえるなら — 人気のお店で店内が混雑しすぎないように、1分間に入場できる人数を制限する入口の係員のようなものです。