Limitación de velocidad y regulación de tráfico

Parte del curso de Web

A las 09:14 tu API empieza a dar timeout para todo el mundo. No se ha desplegado nada. Resulta que la integración de un cliente tiene un bucle de reintentos sin ninguna espera dentro, y una sola máquina está enviando cuatro mil peticiones por segundo a un endpoint dimensionado para cuarenta. El sistema hizo exactamente lo que le habías dicho: intentó atender todas las peticiones, y se cayó atendiéndolas.

Todo rate limiter responde a una pregunta: ¿este cliente ya ha consumido lo suyo? Los algoritmos se diferencian en cómo cuentan. ...