[Oo-discuss] Ошибка в вычислениях.
drweb
drweb на klax.tula.ru
Пт Июл 10 16:27:03 MSD 2009
awk пишет:
> а вот разница этих двух чисел по мнению Calc не 136,28
> как может показаться начинающему математику, а 136,279999999999000
Вы плохо учили информатику.
Набери в любом поисковике "информатика Сравнение ВЕЩЕСТВЕННЫХ чисел"
> ЭТО ОЧЕНЬ КРИТИЧНАЯ ОШИБКА!
Почему критичная? Какой процент погрешности?
> т.к. сравнения чисел, полученных от таких вычислений и работа с ними,
> приводит к совершенно непредсказуемым результатам.
Снова проходим информатику.
Сравнение ВЕЩЕСТВЕННЫХ чисел производится так:
abs(a-b)<q
где q - точность сравнения.
Подробная информация о списке рассылки Oo-discuss