Численная ошибка

Численная ошибка — это ошибка в численных вычислениях.

Конечная ошибка может быть суммарным результатом двух видов ошибок в расчёте. Первая называется ошибкой округления и возникает из-за конечной точностью вычислений с числами с плавающей запятой. Вторая обычно называется ошибкой отбрасывания — это разница между точным математическим решением и приближённым значением, полученным при упрощении математических формул с целью сделать их более пригодными для вычисления.

• Потеря значимости
• Численные методы
• Анализ ошибок
• Ошибка округления
• Алгоритм Кэхэна

• Nicholas J. Higham. Accuracy and Stability of Numerical Algorithms. — SIAM, 2002. — ISBN 0-89871-355-2.
• V. Lakshmikantham, S.K. Sen. Computational Error And Complexity In Science And Engineering. — ELSEVIER, 2005. — ISBN 0444518606.