Что такое ThreadPoolExecutor?

ThreadPoolExecutor — это часть модуля concurrent.futures в Python, предоставляющая высокоуровневый API для работы с пулом потоков. Вместо того чтобы вручную создавать и управлять потоками с помощью модуля threading, разработчик может использовать этот исполнитель для параллельного выполнения вызываемых объектов (например, функций) с автоматическим управлением жизненным циклом потоков.

Как это работает

При создании ThreadPoolExecutor вы указываете максимальное количество потоков в пуле (по умолчанию — количество процессоров, умноженное на 5). Когда вы отправляете задачу методом submit(), она помещается во внутреннюю очередь. Если в пуле есть свободный поток, он забирает задачу из очереди и выполняет её. Результат выполнения оборачивается в объект Future, который позволяет проверить статус задачи или получить результат (блокируя при необходимости).

Пример использования

Рассмотрим простой пример загрузки нескольких URL с использованием ThreadPoolExecutor:

import concurrent.futures
import urllib.request

URLS = [
    'https://www.python.org/',
    'https://docs.python.org/',
    'https://github.com/'
]

def load_url(url, timeout):
    with urllib.request.urlopen(url, timeout=timeout) as conn:
        return conn.read()

with concurrent.futures.ThreadPoolExecutor(max_workers=5) as executor:
    future_to_url = {executor.submit(load_url, url, 60): url for url in URLS}
    for future in concurrent.futures.as_completed(future_to_url):
        url = future_to_url[future]
        try:
            data = future.result()
        except Exception as exc:
            print(f'{url} generated an exception: {exc}')
        else:
            print(f'{url} page is {len(data)} bytes')

Где применяется

ThreadPoolExecutor идеально подходит для задач, связанных с вводом-выводом (I/O-bound), таких как:

• Запросы к сетевым ресурсам (HTTP, API).
• Чтение/запись файлов на диске.
• Взаимодействие с базами данных.
• Любые операции, где потоки часто простаивают в ожидании внешних данных.

Для CPU-bound задач (тяжёлые вычисления) в Python из-за GIL лучше использовать ProcessPoolExecutor.

Вывод: ThreadPoolExecutor стоит применять, когда нужно выполнить множество I/O-операций параллельно, не создавая чрезмерное количество потоков вручную. Он повышает производительность приложений за счёт эффективного использования системных ресурсов и упрощает код, скрывая низкоуровневые детали управления потоками.