Ошибка округления¶
Также: ошибка представления, roundoff error
Определение. Погрешность представления вещественного числа во float: fl(x)=x·(1+δ), где |δ|≤eps/2. Для n операций накапливается как O(n·eps). Базовый механизм, который другие механизмы могут усиливать.
В каких главах встречается¶
- Арифметика компьютера: точность, ошибки и цена вычислений
- Сила трения: почему санки останавливаются
- Устойчивая башня: почему падает то, что стояло
Связанные концепты¶
Требуются перед изучением:
Типичные ошибки¶
- float можно сравнивать через ==
- Результат моделирования не зависит от dt