Re: [oodisc] OOо calc и 15< значное число

[Николай Кузнецов]

Здравствуйте те, к кому это относится!

Вы писали (вторник, 28 февраля 2006 г., 10:21:59):

PVK> собственно  проблемма  длинными  числами.  они  приобразуются   в
PVK> научный  формат(х.ххЕ+уу).  никак кроме как сделать число текстом
PVK> его отобразить не удалось, а надо именно числом. куда копать?
PVK> И   при   этом  еще  и  неправильно  разбираются  обратно:  пишем
PVK> 123456789123456789  получаем  на экране 123456789123457000 что на
PVK> мой взгляд не совсем равно.

Насколько  я  понимаю, и у компа (процессора) и у любой программы есть
предел  точности  вычислений. Раньше это было 7 знаков после запятой и
двойная точность - 14 знаков после запятой.

До запятой тоже есть ограничения (по-моему, общее число знаков не д.б.
больше 32 - включая десятичный разделитель).

Обратное преобразование идёт, видимо, верно:
1,23Е+...  - берёт 14 знаков после запятой + перед запятой один - того
пятнадцать значащих цифр (спереди назад), остальные забиваются нулями.

Что  касается  преобразования  длинных  чисел  в научный формат - надо
смотреть опции и хелп...

Спасибо!
-- 
С уважением, Николай Кузнецов
OpenOffice 2.0.1 RU P-III-500 ОЗУ 512 Мб
Windows 2000 5.0 Build 2195 Service Pack 4