[Oo-discuss] Ошибка в вычислениях.

"Алексей Р. Орлов" wea на inbox.ru
Ср Авг 5 08:52:55 MSD 2009


awk пишет:
> Добрый день.
> Я с этим столкнулся еще в версии 1.1. Писал сюда.
> По просбе кого-то из участников (архив не сохранился) сбрасывал сюда 
> файл.
> Думал, это исправили.
>
> Теперь снова натолкнулся на ту же ошибку:
>
> есть две ячейки. в них числа 47 723,75 и 47 587,47
>
> а вот разница этих двух чисел по мнению Calc не 136,28
> как может показаться начинающему математику, а 136,279999999999000
>
> пример в аттаче.
>
> ЭТО ОЧЕНЬ КРИТИЧНАЯ ОШИБКА!
> т.к. сравнения чисел, полученных от таких вычислений и работа с ними, 
> приводит к совершенно непредсказуемым результатам.
>
> Версия 3.0.0 (Build 9358) от Инфра-ресурс.
> ------------------------------------------------------------------------
>
> _______________________________________________
> Oo-discuss mailing list
> Oo-discuss на openoffice.ru
> https://lists.openoffice.ru/mailman/listinfo/oo-discuss
>   
Есть интересная закономерность - пока после запятой не более 11 знаков -
данная погрешность не всплывает - можете проверить постепенно добавляя
разрядность в последних двух ячейках.
Сборка Инфры 3.1



Подробная информация о списке рассылки Oo-discuss