Катастрофическое вычитание¶

Также: cancellation, потеря значимости

Определение. При вычитании двух близких чисел старшие значащие цифры взаимно уничтожаются, и результат состоит почти целиком из погрешности. Относительная ошибка ~ eps·|a|/|a−b| может стать ≫1. Самый опасный механизм потери точности.