レートリミッター戦略とは？

レートリミッター戦略とは、token bucket、leaky bucket、fixed window、sliding window など、リクエスト量に上限を課すために用いる具体的なアルゴリズムです。それぞれバースト耐性と平滑さのバランスの取り方が異なり、この選択がクライアントの体験する throttling のあり方を左右します。ウィンドウの割り当てを使い切ると、リミッターはリクエストを拒否または遅延させます。

なぜ重要か

レートリミティングは、クライアント間で容量を公平に保ちつつ、サービスを不正利用や偶発的な過負荷から守ります。選んだアルゴリズムによって、短いバーストが吸収されるか切り捨てられるかが決まり、それが実際のユーザー体験に影響します。

関連ガイド