Backoff Jitter - CI/CD 用語集の定義

backoff jitter とは、各 retry 間隔に加えられるランダムな遅延で、失敗後に retry する多くのクライアントが全員まったく同じ瞬間に retry しないようにするものです。retry を時間的に分散させ、retry storm や thundering herd を引き起こす同期した波を防ぎます。

仕組み

指数 backoff は各試行のたびに待ち時間を倍にしますが（1s、2s、4s、8s）、すべてのクライアントが同じスケジュールを使うとそろって retry してしまいます。jitter を加えて、現在の backoff の上限までのランダムな遅延を選ぶ（full jitter）ことで、クライアント間の相関を解き、負荷が滑らかに分散します。AWS はまさにこのために full-jitter と decorrelated-jitter の戦略を広めました。

関連ガイド