Top.Mail.Ru
Разработка
C#
Как мы справляемся с нагрузкой: от Rate Limiter к Load Shedding
10 апреля
16.15-16.55
Зал 2

1. Что не так с Rate Limiter (Рассказываем о проблемах RPS и преимуществах Inflight)

2. Что такое Load Shedding (Ключевые особенности и отличия от Rate Limiter, принцип работы)

3. Архитектура Load Shedding (Описываем архитектуру — очереди, проверки по Deadline, прохождение запроса и т.п.)

4. Реализация в .NET (Общие паттерны; проблемы, с которыми мы столкнулись (различия в реализации протокола gRPC в разных языках, AsyncLocal, таймеры на обход очередей и т.п.))

5. Результаты (графики, тезис "Load Shedding - защитный механизм", что делаем дальше)