Какие краевые случаи следует учитывать при тестировании числовых алгоритмов?

Числовые алгоритмы часто ломаются не на обычных значениях, а на границах диапазона.

1. Ноль

Многие алгоритмы:

1. Делят на число

2. Используют логарифмы

Ноль может приводить к исключениям.

2. Очень большие числа

Проблемы:

1. Переполнение

2. Потеря точности

Пример:

x = 10**18
# возможны ошибки при преобразованиях

3. Очень маленькие числа

Иногда результат округляется до нуля.

4. Отрицательные значения

Некоторые функции:

1. Не определены

2. Должны выбрасывать исключение

5. Дробные значения

Алгоритмы могут работать иначе:

1. Ошибки округления

2. Неточное сравнение

Вывод

При тестировании числовых алгоритмов обязательно проверяют ноль, границы диапазона, большие и маленькие значения, отрицательные числа и дробные результаты.