Domanda

devo fare calcoli (divisione o moltiplicazione) con numeri molto grandi. Attualmente sto usando Doppio e ottenere il valore di arrotondare problemi. Posso fare gli stessi calcoli con precisione su C # utilizzando Decimale tipo. Sto cercando un metodo per fare calcoli accurati VB6.0 e non riuscivo a trovare un Decimale tipo in VB6.0.

Qual è il tipo di dati utilizzato per fare calcoli aritmetici con valori grandi e senza ottenere rotonde fuori problemi in virgola mobile?

È stato utile?

Soluzione

A seconda del tipo di dati, si può sempre utilizzare valuta, che è come decimale (19,4), o 15 cifre a sinistra del punto decimale, e 4 a destra.

In VB6, provare a utilizzare il tipo di dati variante, e lanciando i numeri a che l'uso CDec, come in:

Dim myDec As Variant
myDec = CDec(1.234)

vedere se funziona.

Autorizzato sotto: CC-BY-SA insieme a attribuzione
Non affiliato a StackOverflow
scroll top