summaryrefslogtreecommitdiffstats
path: root/contrib/python
diff options
context:
space:
mode:
authorvladikabr <[email protected]>2026-06-10 08:25:58 +0300
committervladikabr <[email protected]>2026-06-10 08:44:27 +0300
commita2bbf6fc8c8d2ad27f1959c98a3cca2c86ff94fe (patch)
treef75f53980592b40be1f60072e33388ee4d823605 /contrib/python
parent28040d5132e39fd456433c3a810a33416a791454 (diff)
add hedging requests rate limiter; automatically preffer local cluster
#### Ограничение частоты hedging-запросов и предпочтение локальных кластеров 📝 - 🔄 Добавлена возможность ограничения доли hedging-запросов относительно общего числа запросов с помощью нового параметра `HedgingRatioLimit`, который позволяет настроить максимальное соотношение hedging-запросов к общему количеству запросов. - 🌐 Внедрена логика автоматического выбора локального кластера при наличии настроек, с учетом дополнительного штрафа за запросы к удалённым кластерам, что повышает эффективность и снижает задержки. - 📊 Введена возможность настройки параметров для отслеживания и ограничения соотношения hedging-запросов с помощью счётчиков и бэкапов, что обеспечивает более точный контроль над поведением hedging-механизма. - ⚙️ Улучшена логика выбора клиентов для первичных и hedging-запросов с учетом приоритетов кластеров и задержек, обеспечивая более стабильную и предсказуемую работу системы. <a href="https://nda.ya.ru/t/qa0kX64r7DqvtN"><font size="2">Autodescription by Yandex Code Assistant</font></a> commit_hash:4a6f6129493cdc1c6ddeb0ec25466ff4b0055b95
Diffstat (limited to 'contrib/python')
0 files changed, 0 insertions, 0 deletions