ЭВМ – это машина с конечной памятью, состоящей из слов конечной длины. Возникает проблема представления бесконеч­ного множества чисел конечным множеством чисел, представимых в ЭВМ.

Обозначим через F конечное подмножество вещественных чисел, с которыми оперирует ЭВМ. То есть элементы множества F – это вещественные числа, которые точно представимы в ЭВМ. Если f₁, f₂ – элементы множества F, ближайшие друг к другу, и x Î [f₁,f₂], где x – это число, не представимое точно в ЭВМ, то x  равняется либо f_1, либо f₂.

Разность между истинным значением числа и его прибли­жением на ЭВМ (т.е. элементом множества F) называется ошибкой округления на ЭВМ.

Если f₁, f₂ принадлежат F, то сумма этих чисел, разность, произведение и частное  могут не принадлежать F.

Следует помнить, что многие числа не представимы точно в ЭВМ. Например, число 0.1 не представимо точно на любой ЭВМ, у которой основание системы счисления является степенью 2.

Точность вычислений с вещественными числами на ЭВМ можно оценить с помощью машинного e.

Машинным e называется наименьшее положительное веще­ственное число, такое что 1Å e >1, где Å – сложение на ЭВМ.

Если для представления вещественного числа в памяти ЭВМ отводится 32 бита, то машинное e приближенно равно 2×10^-8 . То есть в этом случае .

При сложении и вычитании на ЭВМ вещественных чисел, сильно отличающихся друг от друга по модулю, происходит по­теря верных значащих цифр. При вычитании чисел одинакового знака и близких по модулю также происходит потеря верных зна­чащих цифр. В плохо продуманных вычислительных алгоритмах за счет этого возможна катастрофическая потеря верных цифр.