Вопрос

Мне нужно выполнять вычисления (деление или умножение) с очень большими числами.В настоящее время я использую Двойной и проблемы с округлением значения.Я могу точно выполнить те же вычисления на C#, используя Десятичная дробь тип.Я ищу метод выполнения точных вычислений в VB6.0, но не смог найти Десятичная дробь введите VB6.0.

Какой тип данных используется для выполнения арифметических вычислений с большими значениями и без проблем с округлением с плавающей запятой?

Это было полезно?

Решение

В зависимости от типа данных вы всегда можете использовать валюту, например Decimal(19,4), или 15 цифр слева от десятичной точки и 4 справа.

В VB6 попробуйте использовать вариантный тип данных и привести к нему числа с помощью CDec, например:

Dim myDec As Variant
myDec = CDec(1.234)

Посмотрите, сработает ли это.

Лицензировано под: CC-BY-SA с атрибуция
Не связан с StackOverflow
scroll top