Tag floating-accuracy - Это страница 45 - GeneraCodice

Python float - str - странность с плавающей точкой

https://www.generacodice.com/ru/articolo/468330/python-float-str-странность-с-плавающей-точкой
  floating-point  -  python  -  string  -  floating-accuracy  -  ieee-754
StackOverflow StackOverflow

Большие числа, ошибочно округленные в JavaScript

https://www.generacodice.com/ru/articolo/464099/большие-числа-ошибочно-округленные-в-javascript
  floating-point  -  JavaScript  -  floating-accuracy  -  ieee-754
StackOverflow StackOverflow

Каков статус tcl_precision?

https://www.generacodice.com/ru/articolo/454122/каков-статус-tcl-precision
  floating-point  -  tcl  -  floating-accuracy  -  ieee-754
StackOverflow StackOverflow

Точное текстовое представление IEEE «Double»

https://www.generacodice.com/ru/articolo/449312/точное-текстовое-представление-ieee-double
  floating-point  -  floating-accuracy  -  ieee-754
StackOverflow StackOverflow

Jquery отображает $ 20.09999999999998 вместо $ 20.1

https://www.generacodice.com/ru/articolo/439285/jquery-отображает-20-09999999999998-вместо-20-1
  JavaScript  -  jquery  -  floating-accuracy
StackOverflow StackOverflow

Проверка двойного диапазона значений и шага

https://www.generacodice.com/ru/articolo/432880/проверка-двойного-диапазона-значений-и-шага
  floating-point  -  algorithm  -  precision  -  range  -  floating-accuracy
StackOverflow StackOverflow

sprintf(buf, “%.20g”, x) // какого размера должен быть buf?

https://www.generacodice.com/ru/articolo/416015/sprintf-buf-20g-x-какого-размера-должен-быть-buf
  floating-point  -  c++  -  printf  -  buffer-overflow  -  floating-accuracy
StackOverflow StackOverflow

Существуют ли компиляторы, которые оптимизируют операции с плавающей запятой для обеспечения точности (а не скорости)?

https://www.generacodice.com/ru/articolo/415250/существуют-ли-компиляторы-которые-оптимизируют-операции-с-плавающей-запятой-для-обеспечения-точности-а-не-скорости
  floating-point  -  compiler-construction  -  optimization  -  floating-accuracy
StackOverflow StackOverflow

точность вычисления полинома, соотношение умножения и деления

https://www.generacodice.com/ru/articolo/412875/точность-вычисления-полинома-соотношение-умножения-и-деления
  algorithm  -  floating-accuracy  -  numerical-analysis
StackOverflow StackOverflow

Функция FRAC теряет точность

https://www.generacodice.com/ru/articolo/404863/функция-frac-теряет-точность
  delphi  -  delphi-7  -  precision  -  floating-accuracy  -  tdatetime
StackOverflow StackOverflow
Результаты найдены: 479
scroll top