Tag precision - Это страница 91 - GeneraCodice

Безопасно ли проверять значения с плавающей запятой на равенство 0?

https://www.generacodice.com/ru/articolo/157292/безопасно-ли-проверять-значения-с-плавающей-запятой-на-равенство-0

  c#  -  floating-point  -  .net  -  precision  -  zero

StackOverflow

MATLAB — вопрос об этаже

https://www.generacodice.com/ru/articolo/154855/matlab-вопрос-об-этаже

  floating-point  -  matlab  -  rounding  -  precision

StackOverflow

Какова точность long double в C ++?

https://www.generacodice.com/ru/articolo/150542/какова-точность-long-double-в-c

  c++  -  precision  -  long-double

StackOverflow

Потеря точности в GMP mpf_add. Куда делись мои цифры?

https://www.generacodice.com/ru/articolo/148291/потеря-точности-в-gmp-mpf-add-куда-делись-мои-цифры

  c  -  precision  -  gmp

StackOverflow

“новый BigDecimal (13.3D)” приводит к неточному “13.3000000000000007105..”?

https://www.generacodice.com/ru/articolo/147668/новый-bigdecimal-13-3d-приводит-к-неточному-13-3000000000000007105

  java  -  bigdecimal  -  precision

StackOverflow

В каких единицах измерения вы бы хранили инженерные данные?

https://www.generacodice.com/ru/articolo/145256/в-каких-единицах-измерения-вы-бы-хранили-инженерные-данные

  floating-point  -  units-of-measurement  -  precision

StackOverflow

Как написать прототип для Number.toFixed в JavaScript?

https://www.generacodice.com/ru/articolo/138267/как-написать-прототип-для-number-tofixed-в-javascript

  JavaScript  -  rounding  -  precision

StackOverflow

Сохраняйте точность с помощью double в Java

https://www.generacodice.com/ru/articolo/128374/сохраняйте-точность-с-помощью-double-в-java

  floating-point  -  double  -  java  -  precision

StackOverflow

Что такое стандартная (или лучше всего поддерживаемая) библиотека больших чисел (произвольная точность) для Lua?

https://www.generacodice.com/ru/articolo/113931/что-такое-стандартная-или-лучше-всего-поддерживаемая-библиотека-больших-чисел-произвольная-точность-для-lua

  math  -  lua  -  bignum  -  precision

StackOverflow

Что такое c printf% f точность по умолчанию?

https://www.generacodice.com/ru/articolo/78605/что-такое-c-printf-f-точность-по-умолчанию

  c++  -  c  -  printf  -  precision

StackOverflow

• «
• 88
• 89
• 90
• 91
• 92
• 93
• »

Результаты найдены: 928