Pembatasan Laju dan Throttling

Bagian dari kursus Web

Pukul 09:14 API kamu mulai timeout untuk semua orang. Tidak ada yang di-deploy. Ternyata integrasi milik salah satu pelanggan punya loop retry tanpa jeda sama sekali, dan satu mesin mengirim empat ribu request per detik ke endpoint yang dirancang untuk empat puluh. Sistem melakukan persis seperti yang kamu perintahkan: ia berusaha melayani setiap request, lalu tumbang sambil melayaninya.

Setiap pembatas laju menjawab satu pertanyaan: apakah klien ini sudah menghabiskan jatahnya? Yang membedakan ketiga algoritma adalah cara menghitungnya. ...