Re2: [oodisc] OOо calc и 15< значное число

Pavel V. Kartsev qwq на qwq.pp.ru
Вт Фев 28 15:06:26 MSK 2006


Дык смотрел... и идея в том, что это самое число преобразовывать никуда 
не надо... и как заставить его оставить как есть я так и не допер. а 
очень бы хотелось... в хелпе по этому поводу тоже не нашел, но пологаю 
что это могла быть и проблемма с аглицким...

Николай Кузнецов пишет:

> Здравствуйте те, к кому это относится!
>
> Вы писали (вторник, 28 февраля 2006 г., 10:21:59):
>
> PVK> собственно  проблемма  длинными  числами.  они  приобразуются   в
> PVK> научный  формат(х.ххЕ+уу).  никак кроме как сделать число текстом
> PVK> его отобразить не удалось, а надо именно числом. куда копать?
> PVK> И   при   этом  еще  и  неправильно  разбираются  обратно:  пишем
> PVK> 123456789123456789  получаем  на экране 123456789123457000 что на
> PVK> мой взгляд не совсем равно.
>
> Насколько  я  понимаю, и у компа (процессора) и у любой программы есть
> предел  точности  вычислений. Раньше это было 7 знаков после запятой и
> двойная точность - 14 знаков после запятой.
>
> До запятой тоже есть ограничения (по-моему, общее число знаков не д.б.
> больше 32 - включая десятичный разделитель).
>
> Обратное преобразование идёт, видимо, верно:
> 1,23Е+...  - берёт 14 знаков после запятой + перед запятой один - того
> пятнадцать значащих цифр (спереди назад), остальные забиваются нулями.
>
> Что  касается  преобразования  длинных  чисел  в научный формат - надо
> смотреть опции и хелп...
>
> Спасибо!
>   



Подробная информация о списке рассылки Oo-discuss