Сообщение от MadFish:
Ну вы еще подеритесь горячие финские парни
те максимальное значение без потери точности 19 полных разрядов. 18446744073709551615 (2^64 < 22^99)
МАЛАВАТА БУДЕТ!!!!(с) Падал прошлогодний снег
Может вначале проверим, а потом говорить будем. ? Ась?
[Ответ]
Сообщение от ][irurg:
поясни о чем тогда речь в мсдн:
№1 читаем ВНИМАТЕЛЬНО MSDN http://msdn.microsoft.com/en-us/libr...hc(VS.80).aspx
№2 представление числа типа дубль в памяти http://steve.hollasch.net/cgindex/coding/ieeefloat.html
№3 Максимально возможное значение без потери точности получается в случае беззнакового целого- 18446744073709551615 все что больше, представляется как дубль-с потерей точности!!! т е хранится 52 бита (4503599627370495) число а младшие разряды считаются 0. те 45035996273704950 будет равно 45035996273704951 [Ответ]
shuri 23:39 26.03.2009
Бля, неееееееееееееееееее-т, маниш - пошел в жопу
[Ответ]
Сообщение от MadFish:
Ну вы еще подеритесь горячие финские парни
те максимальное значение без потери точности 19 полных разрядов. 18446744073709551615 (2^64 < 22^99)
МАЛАВАТА БУДЕТ!!!!(с) Падал прошлогодний снег
Не буду, поскольку ошибка в первом номере :-)
[Ответ]
shuri 23:51 26.03.2009
Сообщение от MadFish: shuri, иди проспись, гений ты наш!!!
shuri, ну вроде как при старте темы примерно это уже обсуждалось. Да, excel на удивление может работать с огромными числами без потери точности, но mod, Fix, Int на огромных числах отрабатываются некорректно, т.к. видимо мешает дробный хвост. По упомянутой мной ранее ссылке, есть предположение, что Excel работает с представлением числа пока это возможно и только, если не получается, проводит реальные вычисления с потерей точности.
Сообщение от MadFish:
т е хранится 52 бита (4503599627370495) число а младшие разряды считаются 0. те 45035996273704950 будет равно 45035996273704951
это ясно. но напомню что стартовый топик содержал фразу
Сообщение от 1000w:
Короче, проводить вычесления с числами с сорока и более нулями?
ответ -используя описание переменных как дабл, если значащая часть содержит не более 19 разрядов
[Ответ]
Part!zan 18:16 27.03.2009
][irurg, не нужно так букально все понимать, если человек говорил про нули, это не значит что он говорил про нули ) Он мог говорить о знакоместе, но просто решил, что слово "нуль" короче. ))
[Ответ]
1000w 09:16 30.03.2009
ну да, на тот момент речь шла о больших целых числах, но дробные тоже интересны.
[Ответ]