Почему последовательное хранение данных в памяти ускоряет аналитические операции?

Производительность аналитических операций часто ограничена скоростью доступа к памяти, а не вычислениями.

Определение

Последовательное хранение данных — это размещение логически связанных значений в соседних областях памяти.

Почему это важно

Процессор:

• загружает данные в кэш блоками,

• ожидает, что следующие обращения будут к соседним адресам.

Что происходит при последовательном доступе

1. один промах кэша загружает сразу несколько элементов,

2. последующие обращения работают из кэша,

3. снижается латентность доступа к памяти.

Сравнение с разрозненным доступом

• последовательный доступ — минимальные задержки,

• случайный доступ — частые промахи кэша.

Где это используется

• колоночные хранилища,

• векторные вычисления,

• аналитические движки.

Вывод

Последовательное хранение данных ускоряет аналитику за счёт лучшей локальности памяти и эффективного использования кэша.