Visual Basic 6.0で、小数点データ型
質問
私は非常に大きな数と計算(割り算や掛け算)を行う必要があります。現在、私は使用して、のダブルの値は、問題を丸める取得しています。私はの小数のタイプを使用してC#の上で正確に同じ計算を行うことができます。私はVB6.0で正確な計算を行うための方法を探していますし、私は見つけることができませんでした。の小数のVB6.0で種類ます。
大値で算術計算を行うための浮動小数点丸め問題を得ることなく使用されるデータタイプは何ですか?
解決
あなたのデータの種類に応じて、あなたは常に右に進に似ている通貨、(19,4)、または小数点の左側に15桁、および4を使用することができます。
VB6では、のように、バリアントデータ型を使用して、その使用CDECにあなたの番号をキャストしてみます:
Dim myDec As Variant
myDec = CDec(1.234)
それが動作するかどうかを参照してください。
所属していません StackOverflow