[Oo-discuss] Ошибка в вычислениях.

ipw на tut.by ipw на tut.by
Пт Июл 10 22:01:36 MSD 2009


> есть две ячейки. в них числа 47 723,75 и 47 587,47
> а вот разница этих двух чисел по мнению Calc не 136,28
> как может показаться начинающему математику, а 136,279999999999000
> Версия 3.0.0 (Build 9358) от Инфра-ресурс.

Версия 3.0.0 (build 9379, сборка Sun (ubuntu-9.04) - НЕ подтверждаю!

(Эх, жаль снес неделю назад убунту-8.10, а то и на ОО 2.4 проверил
бы...) Кстати, а у других как (на других версиях, не только от инфры)?
Может, там есть какие хитрые настройки??? Как в анекдоте:
Мальчик приходит к папе, когда у того гости, и спрашивает: "сколько
будет 2+2?" Папа говорит - "четыре", один из гостей - физик - "где-то от
трех до пяти", математик - "3,9999999999999999", бухгалтер: "мальчик, а
тебе сколько нужно?"
Насколько мне известно, в программировании не всё так просто :( для
одного и того же вычисления бывают разные алгоритмы, в т.ч. и
приближенные... хотя мне, чесслово, непонятно, какой такой алгоритм м.б.
при вычитании...



Подробная информация о списке рассылки Oo-discuss