Zrzucanie obciążenia (load shedding)
Celowe odrzucanie części zapytań, gdy system jest przeciążony, żeby reszta dalej była obsłużona, zamiast żeby stanęło wszystko.
Ponad swoją pojemność serwis, który przyjmuje każde zapytanie, zwalnia dla wszystkich, aż zapytania przekraczają czas i są ponawiane, co dokłada obciążenia. Zrzucanie od razu odpowiada na nadmiarowe zapytania błędem, np. 503 albo 429, najlepiej zaczynając od najmniej ważnych: synchronizacja w tle przed koszykiem. Różni się od limitowania zapytań, które ogranicza każdego klienta; zrzucanie chroni serwis jako całość.
Powiązane hasła
- Rate limiting (limit zapytań): Ograniczenie, ile zapytań użytkownik, klucz albo IP może wysłać w oknie czasu, z odpowiedzią HTTP 429 powyżej limitu.
- Wzorzec bulkhead (grodzie): Danie każdej zależności albo rodzajowi pracy własnej, ograniczonej puli połączeń albo workerów, żeby jedna wolna część nie zużyła wszystkiego.
- Łagodna degradacja (graceful degradation): Utrzymanie rdzenia produktu w działaniu, gdy padnie zależność, przez wyłączenie albo uproszczenie części, które na niej polegają.
