Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой

Abstract

В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах.

Розглянуто точність подання чисел з рухомою комою і показані формули для розрахунку абсолютної і відносної похибок для бінарних і постбінарних форматів. Отримано формули для розрахунку похибок всіх форматів і виявлена закономірність між значеннями похибки постбінарного і бінарного форматів одного класу точності. Розглянуто стандартні способи округлення чисел з плаваючою комою і запропоновано новий спосіб округлення чисел в постбінарних форматах.

In the article, precision of floating point numbers are considered, the formulas for calculating of the absolute and relative errors for binary and postbinary formats are shown. The formulas for calculating the errors of all sizes and pattern are obtained, rules for values of error of postbinary and binary formats one class of accuracy are found. Standard methods of rounding floating point numbers are considered. New method of number rounding in postbinary formats is proposed.