У обчислювальної математики, як правило, розглядається рішення коректно поставлених задач. Це означає, що вихідна задача має єдине рішення, яке в деякій області безперервно залежить від вихідних даних задачі. Іншими словами, при малій похибки в завданні вихідних даних рішення коректно поставленого завдання також змінюється на малу величину. На практиці значення майже всіх величин задаються і визначаються наближено. Ця обставина для обчислювальної математики має виняткову важливість. Рішення кожного завдання повинно бути отримано з точністю, що дозволяє використовувати його на практиці. Провести рішення задачі потрібно так, щоб похибка отриманого рішення не перевищувала допустиму. Розглянемо джерела похибок на конкретному прикладі. Нехай потрібно обчислити площу фігури, що складається з прямокутного трикутника і півкола, побудованого на одному з катетів як на діаметрі. При цьому задані значення кута і гіпотенузи, отримані в результаті вимірювання. Точні значення вихідних величин позначимо відповідно і. Таким чином, точне значення площі виражається формулою.
Значення площі через задані значення вихідних величин визначається виразом. Різниця називають непереборний похибкою. Ця похибка обумовлена неточним завданням вихідних даних. Щоб зменшити неустранимую похибка, потрібно більш точно виміряти значення вихідних величин, а це входить в обов'язки замовника, а не математика, вирішального завдання. Для обчислення значень тригонометричних функцій скористаємося їх розкладаннями в ряд Тейлора, тоді прийдемо до рівності. Різниця називають похибкою методу. Похибка методу можна зробити досить малою. У нашому прикладі математику для цього потрібно взяти в розкладах досить велике значення. Вихідні дані і ірраціональні числа округлюються при введенні в обчислювальну машину, округлюються також проміжні та кінцеві результати. Фактично обчислене значення площі позначимо. Різниця називають обчислювальної похибкою. Зменшити обчислювальну похибку можна за рахунок використання ЕОМ з більшою розрядної сіткою, а також за рахунок програмування операцій над числами з великою розрядністю. Повна похибка складається з трьох зазначених видів похибки:.
Фатальна помилка. Позначимо - наближене значення величини, - її точне значення. Похибка наближеною величини визначимо рівністю.
Якщо дріб наближається числом, то для похибки такого наближення отримаємо.
На практиці рідко можна отримати точне значення похибки наближеною величини. Тому використовується поняття абсолютної похибки. Абсолютна похибка визначається нерівністю.
Звичайно, прагнуть знайти якомога менше значення абсолютної похибки, що задовольняє вказаним нерівності. Наприклад, в разі наближення ірраціонального числа числом як абсолютної похибки можна взяти або 0.002 або 0.0016, але не 2 або 3, хоча під визначення абсолютної похибки останні числа і підходять.
Величину називають відносною похибкою наближеного числа. Якщо, то в якості відносної похибки можна взяти число.
Значущими цифрами числа називають усі його ненульові цифри і нулі, які знаходяться між значущими цифрами або є представниками збереженого десяткового розряду.
Значуща цифра наближеного числа називається вірною, якщо абсолютна похибка числа не перевищує половини одиниці розряду, в якому ця цифра знаходиться.
Зауваження 1. Абсолютні і відносні похибки записують з точністю до однієї або двох значущих цифр.
Зауваження 2. Абсолютні і відносні похибки округлюють тільки з надлишком.
Розглянемо питання оцінки непереборний похибки рішення задачі на прикладі обчислення значення функції за заданим значенням аргументу. Значення аргументу задано з абсолютною похибкою. Потрібно оцінити абсолютну похибку.
Використовуючи формулу кінцевих збільшень Лагранжа, отримаємо. Звідси маємо нерівність, де. Таким чином, можна покласти.
Аналогічно оцінюється непереборна похибка в разі функції декількох змінних. Маємо. Звідси для абсолютної похибки функції отримуємо дані вираз, де,.
Нехай квадратне рівняння вирішується за допомогою обчислювального пристрою, який виконує арифметичні операції з точністю до чотирьох значущих десяткових цифр. Розглянемо обчислення меншого кореня відповідно до рівністю. При добуванні кореня на пристрої вийде. При відніманні на пристрої вийде 70.00-69.99 = 0.01. Таким чином, остаточний результат виходить з точністю до однієї значущої цифри.
Змінимо алгоритм обчислень відповідно до вираження.
Результат першої дії залишається таким же. Результат другого дії 70.00 + 69.99 = 140.0 проходить з округленням до чотирьох значущих цифр. У третій дії виходить остаточний результат 1 / 140.0 = 0.007143 з точністю до чотирьох значущих цифр. Даний приклад показує, що обраний алгоритм обчислень може істотно впливати на величину обчислювальної похибки.
Як другий приклад розглянемо обчислення суми чисел на тому ж обчислювальному пристрої: x = 1.23 + 9.374 + 0.0046 + 0.0039 + 0.0141. Нехай проводиться складання зліва направо: 1.23 + 9.374 = 10.60; 10.60 + 0.0046 = 10.60; 10.60 + 0.0039 = 10.60; 10.60 + 0.0141 = 10.61.
А тепер проведемо на пристрої додавання тих же чисел в порядку справа наліво: 0.0141 + 0.0039 = 0.0180; 0.018 + 0.0046 = 0.0226; 0.0226 + 9.374 = 9.397; 9.397 + 1.23 = 10.63. Як бачите, при обчисленнях на реальному пристрої сума доданків залежить від їх порядку (підсумовування).