Dezimal-Datentyp in Visual Basic 6.0
Frage
Ich brauche Berechnungen zu tun (Division oder Multiplikation) mit sehr großen Zahlen. Derzeit bin ich mit Double und bekommen die Wertprobleme abrunden. Ich kann die gleichen Berechnungen genau auf C # Dezimal Typ. Ich bin für eine Methode suchen genaue Berechnungen in VB6.0 zu tun, und ich konnte nicht ein Dezimal Typ in VB6.0 finden.
Was ist der Datentyp dafür arithmetische Berechnungen mit großen Werten verwendet und ohne Floating Point runde Probleme zu bekommen?
Lösung
Ihre Daten Je nach Ausführung, können Sie immer Währung verwenden, die wie Dezimal ist (19,4) oder 15 Stellen links vom Komma und 4 nach rechts.
In VB6, versuchen Sie die Variante Datentyp verwendet wird, und Gießen Sie Ihre Zahlen auf, die mit CDec, wie in:
Dim myDec As Variant
myDec = CDec(1.234)
Sehen Sie, ob das funktioniert.