Percentile Latencyとは何か？

Percentile latencyは、記述された割合のリクエストが完了する応答時間の値として表現されます。たとえばp99 latencyは、リクエストの99パーセントが上回る時間です。複数のパーセンタイルを報告することで、latency分布の形が明らかになります。これは、平均だけでは隠れてしまう遅い外れ値を露わにします。

なぜ重要か

低い平均は、一部のユーザーが数秒待つ長い裾を覆い隠すことがあります。高いパーセンタイルを追跡することでその苦痛が浮かび上がります。これが、SLOが通常、平均ではなくp95やp99に対して書かれる理由です。

関連ガイド