p99 Latency - CI/CD用語集の定義
p99 latency(99パーセンタイル)とは、測定されたレイテンシの99パーセントがそれを下回る値です。最も遅い1パーセントだけがそれより悪くなります。これは、中央値が隠してしまう稀だが痛みを伴う遅いケース、すなわちtail latencyを定量化する標準的な方法です。
重要な理由
CIフリートでは、runnerのpickup時間のp50は5秒でも、時折発生するcold startやキューの競合により、p99は90秒になることがあります。ユーザーは90秒の待ち時間を覚えています。p99(およびp99.9)を追跡すると、平均や中央値が完全に見逃す、キューイングやcold startといった問題が浮かび上がります。
関連ガイド
p50 Latency - CI/CD Glossary Definitionp50 Latency: p50 latency (the 50th percentile, or median) is the value below which half of measured latencies…
Queue Depth - CI/CD Glossary DefinitionQueue Depth: Queue depth is the number of jobs waiting for a free runner at a given moment. It is the primary…
Saturation - CI/CD Glossary DefinitionSaturation: Saturation is how full a resource is relative to its capacity, the degree to which it has queued…