[Oo-discuss] Ошибка в вычислениях.

[Aleksander Gorohovski]

On Sun, 26 Jul 2009 10:36:41 +0300, Алексей Р. Орлов  wrote:

> awk пишет:
>> Добрый день.
>> Я с этим столкнулся еще в версии 1.1. Писал сюда.
>> По просбе кого-то из участников (архив не сохранился) сбрасывал сюда  
>> файл.
>> Думал, это исправили.
>>
>> Теперь снова натолкнулся на ту же ошибку:
>>
>> есть две ячейки. в них числа 47 723,75 и 47 587,47
>>
>> а вот разница этих двух чисел по мнению Calc не 136,28
>> как может показаться начинающему математику, а 136,279999999999000
>>
>> пример в аттаче.
>>
>> ЭТО ОЧЕНЬ КРИТИЧНАЯ ОШИБКА!
>> т.к. сравнения чисел, полученных от таких вычислений и работа с ними,  
>> приводит к совершенно непредсказуемым результатам.
>>
>> Версия 3.0.0 (Build 9358) от Инфра-ресурс.
>> ------------------------------------------------------------------------

Так работают практически все эл.таблицы и не только они.
У Вас же не целочисленные вычисления.
Для результата воспользуйтесь функцией округления.


> Есть интересная закономерность - пока после запятой не более 11 знаков -  
> данная погрешность не всплывает - можете проверить постепенно добавляя  
> разрядность в последних двух ячейках.
> Сборка Инфры 3.1