レイテンシバジェットとは？
レイテンシバジェットは、エンドツーエンドの操作にかかってよい時間の目標上限で、それを構成するコンポーネントやステージに配分されます。あるリクエストが300msで完了する必要があるなら、各ホップ、データベース、サービス、ネットワークがそのバジェットの一部を受け取ります。いずれかの割り当てを超過すると、全体の目標が脅かされます。
なぜ重要か
バジェットがないと、各コンポーネントは孤立して最適化し、エンドツーエンドの体験は許容範囲を越えて漂流します。レイテンシを明示的に配分することでトレードオフが見えるようになり、コンポーネントレベルの性能をユーザー向けのSLOに結び付けます。同じ考え方はCIにも当てはまります。パイプラインはフィードバックまでの時間に対するバジェットを持てます。
関連する概念
- 操作のステージ間に配分される
- コンポーネント性能をユーザー向けのSLOに結び付ける
- 多くの場合p95やp99の目標に対して表現される
関連ガイド
What Is p95 Latency?p95 latency is the value below which 95 percent of requests complete, a percentile metric that captures the s…
What Is a Service Level Objective (SLO)?A service level objective (SLO) is a target value for a reliability metric, such as 99.9% availability, that…
What Is Queue Depth?Queue depth is the number of jobs waiting for an available runner, a key signal of whether CI capacity is kee…