Какие проблемы могут возникать при использовании брокеров сообщений в продакшене?

Question

В продакшене брокеры сообщений могут становиться узким местом системы.
Часто возникают проблемы с потерей сообщений, дублированием и ростом задержек.
Также сложность добавляет мониторинг и отладка асинхронных потоков.
Без правильных настроек и наблюдаемости брокер может привести к деградации всей системы.

YeaHub · Accepted Answer

Использование брокеров сообщений упрощает масштабирование и снижает связность сервисов, но добавляет новые классы проблем, которые необходимо учитывать заранее.Проблемы доставки сообщенийОпределение:Проблемы доставки — это ситуации, когда сообщение не доходит до consumer’а корректно или доходит несколько раз.На практике встречаются следующие сценарии:Потеря сообщений при сбоях брокераДублирование сообщений при повторной доставкеНарушение порядка сообщенийЭто требует:идемпотентной обработкикорректных ackповторных попыток обработкиНакопление очередейКогда consumer’ы не справляются с нагрузкой:Очереди начинают растиУвеличивается latencyПовышается нагрузка на диск и памятьБез ограничений это может привести к:Out Of Memoryпадению брокераостановке обработки событийСложность отладкиАсинхронность затрудняет понимание поведения системы:нет явного call stackсложнее воспроизводить ошибкитребуется distributed tracingОперационные рискиК ним относятся:сложность обновленийнеобходимость резервного копированиячувствительность к неправильной конфигурацииКраткий выводБрокеры сообщений требуют зрелой эксплуатации: мониторинга, ретраев, идемпотентности и контроля нагрузки.