Velká celá čísla? (64 bit čísla)

ovrscout · 11. 10. 2008 18:59:31

Dobrý den,
potřeboval bych přesně počítat s velkými čísly
například 2^63=9223372036854775808 ale v Calcu se zobrazí 9223372036854780000
Myslím že to nejspíš nepůjde a bude to dané implementací všech čísel jako double,
ale rád bych to věděl jistě od nějakého odborníka.

od toho se odvíjí další dotaz, je něco takového plánováno do dalších verzí?(né nutně OO3)

Editoval ovrscout (11. 10. 2008 18:59:45)

j-pastierik · 12. 10. 2008 12:05:33

Presnosť končí už na 2^49 = 562 949 953 421 312, potom to už zaokrúhľuje, 2^50 = 1 125 899 906 842 620 (miesto posledných 624)... Typ Double je 8 byte, teda 2^64-1, ale zrejme je tam iná vnútorná špecifikácia.

ovrscout · 12. 10. 2008 15:52:48

No co se dá dělat, budu si počítat ve win kalkulačce a kopírovat jako text, ale je to škoda.

OpenOffice.cz - web věnovaný kancelářským balíkům OpenOffice.org

#1 11. 10. 2008 18:59:31

Velká celá čísla? (64 bit čísla)

#2 12. 10. 2008 12:05:33

Re: Velká celá čísla? (64 bit čísla)

#3 12. 10. 2008 15:52:48

Re: Velká celá čísla? (64 bit čísla)

Zápatí