Сравнить двойное значение в проблеме точности VBA
-
04-07-2019 - |
Вопрос
У меня проблемы со сравнением 2 двойных значений в Excel VBA.
предположим, что у меня есть следующий код
Dim a as double
Dim b as double
a = 0.15
b = 0.01
После нескольких манипуляций с b, b теперь равно 0,6.
однако неточность, связанная с двойным типом данных, вызывает у меня головную боль, потому что
if a = b then
//this will never trigger
end if
Знаете ли вы, как я могу удалить конечную неточность в двойном типе?
Решение
Нельзя сравнивать значения с плавающей запятой на равенство. См. Эту статью в разделе Сравнение с плавающей запятой номера & Quot; для обсуждения того, как справиться с внутренней ошибкой.
Это не так просто, как сравнивать с постоянным допустимым пределом ошибок, если вы заранее не знаете, какой абсолютный диапазон имеет число с плавающей точкой.
Другие советы
если вы собираетесь это сделать ....
Dim a as double
Dim b as double
a = 0.15
b = 0.01
вам нужно добавить функцию округления в оператор IF следующим образом ...
If Round(a,2) = Round(b,2) Then
//code inside block will now trigger.
End If
См. также здесь для получения дополнительной справки Microsoft .
Никогда не стоит сравнивать двойники на равенство.
Некоторые десятичные значения отображаются в несколько представлений с плавающей точкой. Таким образом, один 0,6 не всегда равен другому 0,6.
Если мы вычтем одно из другого, мы, вероятно, получим что-то вроде 0,00000000051. Р>
Теперь мы можем определить равенство как имеющее разницу, меньшую определенной границы ошибки.
Вот простая функция, которую я написал:
Function dblCheckTheSame(number1 As Double, number2 As Double, Optional Digits As Integer = 12) As Boolean
If (number1 - number2) ^ 2 < (10 ^ -Digits) ^ 2 Then
dblCheckTheSame = True
Else
dblCheckTheSame = False
End If
End Function
Позвоните с помощью:
MsgBox dblCheckTheSame(1.2345, 1.23456789)
MsgBox dblCheckTheSame(1.2345, 1.23456789, 4)
MsgBox dblCheckTheSame(1.2345678900001, 1.2345678900002)
MsgBox dblCheckTheSame(1.2345678900001, 1.2345678900002, 14)
Как уже указывалось, многие десятичные числа не могут быть представлены точно как традиционные типы с плавающей запятой. В зависимости от характера вашего проблемного пространства, вам может быть лучше использовать тип Decimal VBA, который может представлять десятичные числа (основание 10) с идеальной точностью до определенной десятичной запятой. Это часто делается для представления денег, например, когда часто требуется двузначная десятичная точность.
Dim a as Decimal
Dim b as Decimal
a = 0.15
b = 0.01
Тип данных Currency может быть хорошей альтернативой. Он обрабатывает относительно большие числа с фиксированной точностью до четырех цифр.
Круговая работа??Не уверен, что это ответит на все сценарии, но я столкнулся с проблемой сравнения округленных двойных значений в VBA.Когда я сравнивал числа, которые после округления казались идентичными, VBA выдавала false в операторе сравнения if-then.Мое исправление состояло в том, чтобы выполнить два преобразования: сначала двойное в строку, затем строку в двойное, а затем выполнить сравнение.
Имитированный примерЯ не записал точные цифры, вызвавшие ошибку, упомянутую в этом посте, а суммы в моем примере в настоящее время не вызывают проблему и предназначены для обозначения типа проблемы.
Sub Test_Rounded_Numbers()
Dim Num1 As Double
Dim Num2 As Double
Let Num1 = 123.123456789
Let Num2 = 123.123467891
Let Num1 = Round(Num1, 4) '123.1235
Let Num2 = Round(Num2, 4) '123.1235
If Num1 = Num2 Then
MsgBox "Correct Match, " & Num1 & " does equal " & Num2
Else
MsgBox "Inccorrect Match, " & Num1 & " does not equal " & Num2
End If
'Here it would say that "Inccorrect Match, 123.1235 does not equal 123.1235."
End Sub
Sub Fixed_Double_Value_Type_Compare_Issue()
Dim Num1 As Double
Dim Num2 As Double
Let Num1 = 123.123456789
Let Num2 = 123.123467891
Let Num1 = Round(Num1, 4) '123.1235
Let Num2 = Round(Num2, 4) '123.1235
'Add CDbl(CStr(Double_Value))
'By doing this step the numbers
'would trigger if they matched
'100% of the time
If CDbl(CStr(Num1)) = CDbl(CStr(Num2)) Then
MsgBox "Correct Match"
Else
MsgBox "Inccorrect Match"
End If
'Now it says Here it would say that "Correct Match, 123.1235 does equal 123.1235."
End Sub