p95レイテンシとは?
p95レイテンシは95パーセンタイルのレスポンスタイムです。リクエストの95パーセントがこの値より速く、5パーセントが遅くなります。平均とは異なり、分布の遅いテールに注意を集中させます。そこにこそ最悪のユーザー体験が存在します。p99はさらにテールの奥へ踏み込みます。
なぜ重要か
平均は痛みを隠します。あるサービスは平均レイテンシが優秀でも、無視できない割合のユーザーが遅いレスポンスに苦しんでいることがあります。p95やp99のようなパーセンタイル指標はそのテールを露わにします。だからこそSLOやlatency budgetは、通常、平均ではなくパーセンタイルに対して書かれます。
関連する概念
- p99は遅いテールのさらに奥に届く
- パーセンタイルは平均が隠すものを明らかにする
- SLOやlatency budgetの表現に使われる
関連ガイド
What Is a Latency Budget?A latency budget is the maximum allowed time for an operation, divided among its stages so each component kno…
What Is a Service Level Indicator (SLI)?A service level indicator (SLI) is the actual measured value of a reliability metric, like the percentage of…
What Is a Load Test?A load test measures how a system behaves under expected and peak traffic, checking throughput, latency, and…