4. ПРАВИЛА ОКРУГЛЕННЯ наближених ЧИСЕЛ
Незначущими цифрами числа називаються нулі на початку десяткових дробів, менших 1, і нулі в кінці числа, якими замінено цифри, відкинуті після округлення. Інші цифри називаються значущими.
Сумнівною цифрою результату вимірювання називається цифра, що стоїть в розряді, відповідному старшому розряду зі значущою цифрою в значенні похибки. Цифри, що стоять зліва від сумнівної називаються вірними. а праворуч - невірними.
Похибка зазвичай виражається однією значущою цифрою і лише при особливо відповідальних вимірах - двома.
4.1.Округленіе похибки дійсного значення
Похибка округляється до однієї значущої цифри. Ця цифра є сумнівною т. К. Значення похибки не має вірних цифр.
Справжнє значення округляється до цифри, розряд якої дорівнює розряду значень цифри погрешності.Последняя цифра дійсного значення - сумнівна, інші цифри - вірні.
При особливо точних вимірах похибка округлюється до двох значущих цифр, якщо перша з них менше 4-х і до однієї цифри, якщо перша цифра більше 3-х. Іноді в якості другої цифри залишають 0 або 5.
4.2. Запис чисел, лічених з шкали приладу
У числовому значенні вимірюваної величини, ліченому зі шкали приладу, записуються тільки вірні цифри і сумнівна цифра, розряд якої визначається за значенням інструментальної похибки приладу.
4.3. округлення чисел
Зайві цифри у цілих чисел замінюються нулями, а у десяткових дробів відкидаються. Якщо замінна нулем або відкидається цифра старшого розряду менше 5. то залишилися цифри не змінюються. Якщо зазначена цифра більше 5. то остання залишилася цифра збільшується на 1. Якщо замінна нулем або відкидається цифра дорівнює 5. то округлення проводиться таким чином: остання цифра в округленому числі залишається без зміни, якщо вона парна, і збільшується на 1. якщо вона непарна .
4.4. Округлення при обчисленнях
При записи результатів проміжних обчислень зберігається одна запасна цифра - цифра, що стоїть праворуч від сумнівною. При додаванні, відніманні наближених чисел розряд сумнівної цифри результату збігається зі старшим із розрядів сумнівних цифр доданків. Результат множення і ділення містить стільки значущих цифр, скільки їх у вихідному даному з найменшою кількістю значущих цифр. При зведенні в ступінь (добуванні кореня) наближеного числа результат повинен мати стільки цифр, скільки їх в підставі (подкоренного вираженні). При логарифмування в мантисі зберігається стільки значущих цифр, скільки їх у вихідному числі. Якщо один з операндів - точне число, то кількість його цифр не впливає на округлення результату операції. Якщо при обчисленнях використовуються табличні дані, то все їх цифри вірні.
Наведемо приклади округлення результатів вимірювання.
Запис до округлення
• Обчислюємо середнє відхилення струму і напруги:
• Обчислюємо коефіцієнт кореляції струму і напруги:
Згідно з даними дод. 4 при N = 10 ймовірність того, що струм і напруга на навантаженні некорреліровани, дорівнює нулю. Отже, експериментальні дані вказують на зв'язок між похибкою струму і напруги.
• Обчислюємо випадкову складову похибки струму і напруги:
• Обчислюємо повну похибка абсолютну:
• Після округлення отримуємо результати вимірювання струму і напруги:
• Обчислюємо середнє значення потужності:
• Обчислюємо відносну похибку вимірювання потужності:
• Результат непрямих вимірювань потужності: