[Oo-discuss] Ошибка в вычислениях.

Сергей Александрович Лядов ladserg на mail.ru
Пт Июл 10 18:53:54 MSD 2009


Здравствуйте, drweb
Ответ на Ваше письмо от 07/10/2009 06:27 PM
> Почему критичная? Какой процент погрешности?
Любая математическая ошибка - критична, если вы конечно считаете не для
баловства, ИМХО.

ООо 3.0 Gentoo Linux - если в настройках дробной части указать
количество точек поле запятой более 15ти ( а под оффтопиком более 10ти)
то такая же лабуда. Это связано с особенностями процессора Intel, имхо,
а то у него даже нуля нет, есть +0.0 и - 0.0

:-)

-- 
С уважением, Сергей.




Подробная информация о списке рассылки Oo-discuss