La latence est le temps écoulé entre l'envoi d'une requête et la réception de la réponse. On la décrit par des percentiles (p50, p95, p99) plutôt que par la moyenne, car quelques requêtes très lentes dégradent l'expérience sans modifier beaucoup la moyenne.
Exemple
p95 = 2,4 s : 95 % des requêtes se terminent en 2,4 s ou moins.