[Oo-discuss] Ошибка в вычислениях.

drweb drweb на klax.tula.ru
Пт Июл 10 16:27:03 MSD 2009


awk пишет:

> а вот разница этих двух чисел по мнению Calc не 136,28
> как может показаться начинающему математику, а 136,279999999999000
Вы плохо учили информатику.
Набери в любом поисковике "информатика Сравнение ВЕЩЕСТВЕННЫХ чисел"
> ЭТО ОЧЕНЬ КРИТИЧНАЯ ОШИБКА!
Почему критичная? Какой процент погрешности?
> т.к. сравнения чисел, полученных от таких вычислений и работа с ними, 
> приводит к совершенно непредсказуемым результатам.
Снова проходим информатику.
Сравнение ВЕЩЕСТВЕННЫХ чисел производится так:
abs(a-b)<q
  где q - точность сравнения.





Подробная информация о списке рассылки Oo-discuss