Что делать, если одно сообщение вызывает падение демона и блокирует обработку последующих сообщений?

Question

Если одно сообщение постоянно вызывает падение воркера, оно может бесконечно переотправляться и блокировать очередь. В таких случаях вводят лимит повторных попыток и отправляют сообщение в DLQ после превышения порога. Также важно оборачивать обработку в try/except, чтобы процесс не падал целиком. Дополнительно используют изоляцию воркеров и отдельные очереди для проблемных задач.

YeaHub · Accepted Answer

Проблема “плохого” сообщения возникает, когда входные данные или логика обработки приводят к исключению, и сообщение повторно доставляется снова и снова.Почему очередь может блокироватьсяЕсли используется prefetch=1 или малое число воркеров:сообщение доставляетсяобработка падаетсообщение возвращается в очередьтот же воркер снова получает егоВ итоге прогресс не происходит.Практические меры1) Ограничение количества попытокОбычно применяют счетчик попыток:сохраняют число ретраев в заголовке сообщенияпосле N попыток отправляют в DLQ2) Использование Dead Letter QueueСообщения, которые не удалось обработать:не блокируют основную очередьмогут анализироваться отдельно3) Изоляция обработкиПодходы:обработка в отдельном процессеworker pool, где падение одного процесса не влияет на другие4) Обработка ошибок внутри воркераОбработчик должен перехватывать исключения:def on_message(ch, method, properties, body):
    try:
        process(body)
        ch.basic_ack(delivery_tag=method.delivery_tag)
    except Exception:
        # отправка в DLQ или retry
        ch.basic_nack(delivery_tag=method.delivery_tag, requeue=False)
Дополнительные техникиВалидация входных данных до тяжелой обработкиТаймауты на внешние вызовыИдемпотентная обработкаВыводЕсли одно сообщение падает постоянно, его нужно изолировать: ограничить ретраи, отправить в DLQ и не позволять ему блокировать очередь.