レイテンシ - CI/CD用語集の定義

レイテンシ とは、単一のリクエストまたは操作が完了するまでにかかる時間です。作業の単位あたりに経験される遅延であり、単位時間あたりの作業量であるスループットとは対照的です。

レイテンシとスループット

両者は関連していますが互換ではありません。システムが多数のリクエストを並列に処理しつつ、個々のリクエストが遅い場合、高スループットと高レイテンシが同時に生じることがあります。