Limitação de Taxa e Controle de Tráfego

Parte do curso de Web

Às 09:14 a sua API começa a dar timeout para todo mundo. Nenhum deploy foi feito. Acontece que a integração de um cliente tem um loop de retry sem nenhuma espera, e uma única máquina está mandando quatro mil requisições por segundo para um endpoint dimensionado para quarenta. O sistema fez exatamente o que você mandou fazer: tentou atender todas as requisições e caiu tentando.

Todo limitador de taxa responde a uma pergunta: este cliente já usou a parte dele? Os algoritmos diferem na forma de contar. ...