Frage

Ich brauche Berechnungen zu tun (Division oder Multiplikation) mit sehr großen Zahlen. Derzeit bin ich mit Double und bekommen die Wertprobleme abrunden. Ich kann die gleichen Berechnungen genau auf C # Dezimal Typ. Ich bin für eine Methode suchen genaue Berechnungen in VB6.0 zu tun, und ich konnte nicht ein Dezimal Typ in VB6.0 finden.

Was ist der Datentyp dafür arithmetische Berechnungen mit großen Werten verwendet und ohne Floating Point runde Probleme zu bekommen?

War es hilfreich?

Lösung

Ihre Daten Je nach Ausführung, können Sie immer Währung verwenden, die wie Dezimal ist (19,4) oder 15 Stellen links vom Komma und 4 nach rechts.

In VB6, versuchen Sie die Variante Datentyp verwendet wird, und Gießen Sie Ihre Zahlen auf, die mit CDec, wie in:

Dim myDec As Variant
myDec = CDec(1.234)

Sehen Sie, ob das funktioniert.

Lizenziert unter: CC-BY-SA mit Zuschreibung
Nicht verbunden mit StackOverflow
scroll top