Re2: [oodisc] OOо calc и 15< значное число
Pavel V. Kartsev
qwq на qwq.pp.ru
Вт Фев 28 15:06:26 MSK 2006
Дык смотрел... и идея в том, что это самое число преобразовывать никуда
не надо... и как заставить его оставить как есть я так и не допер. а
очень бы хотелось... в хелпе по этому поводу тоже не нашел, но пологаю
что это могла быть и проблемма с аглицким...
Николай Кузнецов пишет:
> Здравствуйте те, к кому это относится!
>
> Вы писали (вторник, 28 февраля 2006 г., 10:21:59):
>
> PVK> собственно проблемма длинными числами. они приобразуются в
> PVK> научный формат(х.ххЕ+уу). никак кроме как сделать число текстом
> PVK> его отобразить не удалось, а надо именно числом. куда копать?
> PVK> И при этом еще и неправильно разбираются обратно: пишем
> PVK> 123456789123456789 получаем на экране 123456789123457000 что на
> PVK> мой взгляд не совсем равно.
>
> Насколько я понимаю, и у компа (процессора) и у любой программы есть
> предел точности вычислений. Раньше это было 7 знаков после запятой и
> двойная точность - 14 знаков после запятой.
>
> До запятой тоже есть ограничения (по-моему, общее число знаков не д.б.
> больше 32 - включая десятичный разделитель).
>
> Обратное преобразование идёт, видимо, верно:
> 1,23Е+... - берёт 14 знаков после запятой + перед запятой один - того
> пятнадцать значащих цифр (спереди назад), остальные забиваются нулями.
>
> Что касается преобразования длинных чисел в научный формат - надо
> смотреть опции и хелп...
>
> Спасибо!
>
Подробная информация о списке рассылки Oo-discuss