Какие проблемы могут возникать при использовании брокеров сообщений в продакшене?

Использование брокеров сообщений упрощает масштабирование и снижает связность сервисов, но добавляет новые классы проблем, которые необходимо учитывать заранее.

Проблемы доставки сообщений

Определение:
Проблемы доставки — это ситуации, когда сообщение не доходит до consumer’а корректно или доходит несколько раз.

На практике встречаются следующие сценарии:

1. Потеря сообщений при сбоях брокера

2. Дублирование сообщений при повторной доставке

3. Нарушение порядка сообщений

Это требует:

• идемпотентной обработки

• корректных ack

• повторных попыток обработки

Накопление очередей

Когда consumer’ы не справляются с нагрузкой:

1. Очереди начинают расти

2. Увеличивается latency

3. Повышается нагрузка на диск и память

Без ограничений это может привести к:

• Out Of Memory

• падению брокера

• остановке обработки событий

Сложность отладки

Асинхронность затрудняет понимание поведения системы:

• нет явного call stack

• сложнее воспроизводить ошибки

• требуется distributed tracing

Операционные риски

К ним относятся:

• сложность обновлений

• необходимость резервного копирования

• чувствительность к неправильной конфигурации

Краткий вывод

Брокеры сообщений требуют зрелой эксплуатации: мониторинга, ретраев, идемпотентности и контроля нагрузки.