O Que É um Latency Budget?
Um latency budget é um teto-alvo de quanto tempo uma operação de ponta a ponta pode levar, alocado entre os componentes e estágios que a compõem. Se uma requisição precisa completar em 300ms, cada salto, banco de dados, serviço e rede, recebe uma fatia desse budget. Exceder qualquer fatia ameaça o objetivo geral.
Por que isso importa
Sem um budget, cada componente otimiza isoladamente e a experiência de ponta a ponta acaba ultrapassando limites aceitáveis. Alocar a latência explicitamente torna os trade-offs visíveis e amarra o desempenho de cada componente a um SLO voltado ao usuário. A mesma ideia se aplica ao CI: um pipeline pode carregar um budget para o tempo até o feedback.
Conceitos relacionados
- Alocado entre os estágios de uma operação
- Amarra o desempenho do componente a um SLO voltado ao usuário
- Frequentemente expresso contra um alvo de p95 ou p99
Guias relacionados
What Is p95 Latency?p95 latency is the value below which 95 percent of requests complete, a percentile metric that captures the s…
What Is a Service Level Objective (SLO)?A service level objective (SLO) is a target value for a reliability metric, such as 99.9% availability, that…
What Is Queue Depth?Queue depth is the number of jobs waiting for an available runner, a key signal of whether CI capacity is kee…