Большой Воронежский Форум
Страница 3 из 3
< 123
» Программирование>VBA как возвести в степень
Part!zan 23:09 26.03.2009

Сообщение от shuri:
врешь %-)

Нихрена. Я честен, как бывший пионэр.

Сообщение от MadFish:
те максимальное значение без потери точности 19 полных разрядов

Об чем и речь...
Изображения
[Ответ]
shuri 23:20 26.03.2009

Сообщение от MadFish:
Ну вы еще подеритесь горячие финские парни
те максимальное значение без потери точности 19 полных разрядов. 18446744073709551615 (2^64 < 22^99)

МАЛАВАТА БУДЕТ!!!!(с) Падал прошлогодний снег

Может вначале проверим, а потом говорить будем. ? Ась? [Ответ]
shuri 23:25 26.03.2009
ВСЕ! СТОП! ЭКСПЕРИМЕНТ ЗАКОНЧЕН!!! [Ответ]
][irurg 23:28 26.03.2009

Сообщение от MadFish:
те максимальное значение без потери точности 19 полных разрядов. 18446744073709551615 (2^64 < 22^99)

поясни о чем тогда речь в мсдн:

Сообщение от ][irurg:
до 1,79769313486231570E+308 для положительных

10^308 как понимаю больше 19 разрядов [Ответ]
MadFish 23:38 26.03.2009

Сообщение от ][irurg:
поясни о чем тогда речь в мсдн:

№1 читаем ВНИМАТЕЛЬНО MSDN http://msdn.microsoft.com/en-us/libr...hc(VS.80).aspx
№2 представление числа типа дубль в памяти http://steve.hollasch.net/cgindex/coding/ieeefloat.html
№3 Максимально возможное значение без потери точности получается в случае беззнакового целого- 18446744073709551615 все что больше, представляется как дубль-с потерей точности!!! т е хранится 52 бита (4503599627370495) число а младшие разряды считаются 0. те 45035996273704950 будет равно 45035996273704951 [Ответ]
shuri 23:39 26.03.2009
Бля, неееееееееееееееееее-т, маниш - пошел в жопу [Ответ]
MadFish 23:45 26.03.2009
shuri, иди проспись, гений ты наш!!! [Ответ]
shuri 23:49 26.03.2009

Сообщение от MadFish:
Ну вы еще подеритесь горячие финские парни
те максимальное значение без потери точности 19 полных разрядов. 18446744073709551615 (2^64 < 22^99)

МАЛАВАТА БУДЕТ!!!!(с) Падал прошлогодний снег

Не буду, поскольку ошибка в первом номере :-) [Ответ]
shuri 23:51 26.03.2009

Сообщение от MadFish:
shuri, иди проспись, гений ты наш!!!

[Ответ]
Yandex 07:33 27.03.2009
shuri, ну вроде как при старте темы примерно это уже обсуждалось. Да, excel на удивление может работать с огромными числами без потери точности, но mod, Fix, Int на огромных числах отрабатываются некорректно, т.к. видимо мешает дробный хвост. По упомянутой мной ранее ссылке, есть предположение, что Excel работает с представлением числа пока это возможно и только, если не получается, проводит реальные вычисления с потерей точности.

Пока писал не видел седьмую страницу [Ответ]
][irurg 08:34 27.03.2009

Сообщение от MadFish:
т е хранится 52 бита (4503599627370495) число а младшие разряды считаются 0. те 45035996273704950 будет равно 45035996273704951

это ясно. но напомню что стартовый топик содержал фразу

Сообщение от 1000w:
Короче, проводить вычесления с числами с сорока и более нулями?

ответ -используя описание переменных как дабл, если значащая часть содержит не более 19 разрядов [Ответ]
Part!zan 18:16 27.03.2009
][irurg, не нужно так букально все понимать, если человек говорил про нули, это не значит что он говорил про нули ) Он мог говорить о знакоместе, но просто решил, что слово "нуль" короче. )) [Ответ]
1000w 09:16 30.03.2009
ну да, на тот момент речь шла о больших целых числах, но дробные тоже интересны. [Ответ]
Страница 3 из 3
< 123
Вверх