Какие сложности возникают в сервисе, который делает большое количество внешних HTTP-запросов на один входящий запрос?

Сервисы-агрегаторы выглядят простыми логически, но быстро становятся сложными эксплуатационно.

Ключевые проблемы

Перед перечислением важно понимать: каждый внешний вызов — это неконтролируемая зависимость.

1. Рост latency

   • последовательные вызовы → суммарная задержка

   • параллельные вызовы → зависимость от самого медленного

2. Частичные отказы

   • один сервис недоступен, остальные работают

   • нужно решать: падать целиком или деградировать

3. Timeout management

   • разные SLA у разных сервисов

   • неправильные таймауты блокируют ресурсы

4. Retry storm

   • ретраи по таймаутам

   • умножение нагрузки на внешние системы

5. Rate limits

   • внешние API ограничивают RPS

   • требуется троттлинг и очереди

6. Сложная логика агрегации

   • неполные данные

   • разные форматы и версии API

Пример проблемной схемы

async def handler():
    results = await asyncio.gather(
        call_a(),
        call_b(),
        call_c(),
    )
    return merge(results)

Если call_b() зависает или медленный, страдает весь запрос.

Типовые меры смягчения

1. Таймауты и лимиты

2. Circuit breaker

3. Fallback-логика

4. Кеширование

5. Ограничение параллелизма

Вывод

Чем больше внешних HTTP-запросов на один входящий, тем выше требования к управлению отказами, временем ожидания и деградацией. Без этого сервис становится нестабильным под нагрузкой.