[Oo-discuss] Ошибка в вычислениях.

[Николай Кузнецов]

Здравствуйте те, к кому это относится!

Вы писали (вторник, 14 июля 2009 г., 14:13:46):
a> А  всех  остальных  любителей  погрешности попрошу представить, что
a> может получиться с этим "хвостиком"...

Насколько  я  помню  :)  ,  всё  равно  не  может быть больше 7 или 14
значащих цифр в результате - так работает процессор, вроде как.

Во времена моей молодости делали просто:
1) Вычисляем результат.
2) Берём точную часть, вычитаем из результата.
3)  Умножаем  на нужное количество 10-к - чтобы убрать лишние значащие
нули.
4) Снова вычисляем результат.
5) Дописываем к (2).
И так по кругу, до бесконечности.

Так,  ИМХО,  можно  получить  любую  точность  - но за определённое ;)
время.

Ещё  раз  повторю:  есть  _принципиальное_  ограничение  на количество
значащих  цифр  в  результате  - величина ячеек хранения не может быть
бесконечной  (во  всяком  случае, мне такая архитектура компьютеров не
известна).

Спасибо!
-- 
С уважением, Николай Кузнецов
OpenOffice 3.0 RU Проф от Инфры P-IV-D-3,4 ОЗУ 2 Гб
Windows XP 5.1 Pro Eng Build 2600 Service Pack 3