Как ограничить размер кэша и удалять старые элементы?

Кэширование — это техника хранения временных данных для ускорения доступа, но неограниченный рост кэша может привести к исчерпанию памяти. Поэтому необходимо управлять его размером, применяя политики вытеснения (eviction policies).

Основные стратегии ограничения размера

• Фиксированное количество записей: кэш хранит не более N элементов, при добавлении нового удаляется старый согласно выбранной политике.
• Ограничение по памяти: отслеживается объём занимаемой памяти (например, в байтах), и при превышении лимита удаляются элементы.
• TTL (Time To Live): каждой записи присваивается срок жизни, по истечении которого она считается устаревшей и удаляется при следующем обращении или фоновой очистке.

Популярные политики вытеснения

• LRU (Least Recently Used): удаляет элементы, к которым дольше всего не обращались. Эффективна для шаблонов доступа с временной локальностью.
• LFU (Least Frequently Used): удаляет реже всего используемые элементы. Подходит для сценариев, где некоторые данные запрашиваются постоянно.
• FIFO (First-In-First-Out): удаляет элементы в порядке добавления, простая, но не всегда оптимальная.

Пример реализации LRU-кэша на JavaScript

class LRUCache {
  constructor(capacity) {
    this.capacity = capacity;
    this.cache = new Map(); // Хранит ключ-значение
  }

  get(key) {
    if (!this.cache.has(key)) return -1;
    const value = this.cache.get(key);
    // Обновляем порядок: удаляем и вставляем заново
    this.cache.delete(key);
    this.cache.set(key, value);
    return value;
  }

  put(key, value) {
    if (this.cache.has(key)) {
      this.cache.delete(key);
    } else if (this.cache.size >= this.capacity) {
      // Удаляем самый старый элемент (первый в Map)
      const oldestKey = this.cache.keys().next().value;
      this.cache.delete(oldestKey);
    }
    this.cache.set(key, value);
  }
}

// Использование
const cache = new LRUCache(2);
cache.put('a', 1);
cache.put('b', 2);
console.log(cache.get('a')); // 1 (обновляет порядок)
cache.put('c', 3); // Вытесняет 'b', так как он стал самым старым
console.log(cache.get('b')); // -1 (не найден)

В реальных приложениях часто используют готовые библиотеки, например, lru-cache для Node.js или встроенные механизмы в фреймворках (Redis с политиками вытеснения).

Где применяется

• Веб-приложения: кэширование ответов API, результатов запросов к БД.
• Системы баз данных: буферный пул для часто читаемых страниц.
• Операционные системы: кэширование файлов в памяти.
• Сетевые прокси: хранение копий веб-страниц для снижения нагрузки.

Вывод: Ограничение размера кэша с политикой вытеснения (особенно LRU) критически важно для долгосрочной стабильности приложений, работающих с большими объёмами временных данных, так как предотвращает утечки памяти и обеспечивает эффективное использование ресурсов.