Domanda

Sto sommando due float negativi:

char * lhs = "-2234.6016114467412141";
char * rhs = "-4939600281397002.2812";

Secondo Perl, usando bignum e Math :: BigFloat, la risposta è

-4939600281399236.8828114467412141

Tuttavia, secondo GMP, usando il codice qui sotto, la risposta è

-4939600281399236.88281 

Dove ho sbagliato? Che cosa è successo al restante "14467412141"?

#include "stdafx.h"
#include "gmp-static\gmp.h"
#include <stdlib.h>         /* For _MAX_PATH definition */
#include <stdio.h>
#include <malloc.h>
#include <math.h>

#define F(x) mpf_t x; mpf_init( x );

void main(void)
{
    F(f_lhs);
    F(f_rhs);
    F(f_res);

    char * resbuff;

    mp_exp_t exp;

    char * lhs = "-2234.6016114467412141";
    char * rhs = "-4939600281397002.2812";

    int validOp = mpf_set_str( f_lhs, lhs, 10 );
    validOp = mpf_set_str( f_rhs, rhs, 10 );

    mpf_add( f_res, f_lhs, f_rhs );

    resbuff = mpf_get_str( NULL, &exp, 10, 0, f_res );
    printf( "Using mpf_add, %s + %s = %s (exp=%d)\n", lhs, rhs, resbuff, exp );

    free(resbuff);
}

Output di esempio:

Using mpf_add, -2234.6016114467412141 + -4939600281397002.2812 = -493960028139923688281 (exp=16)

P.S. Ho provato ad aggiungere una chiamata a mpf_set_default_prec con valori superiori a 64 (impostazione predefinita), ma senza alcun risultato.

È stato utile?

Soluzione

Sembra che tu stia traboccando la mantissa a 64 bit. Prova a fare mpf_get_prec (f_res) per verificare che sia la precisione che desideri. In caso contrario, chiama mpf_set_default_prec () prima di inizializzare qualsiasi mpf vars (riga 1 di main).

Altri suggerimenti

Avvio con un valore maggiore. Prova questo:

mpf_set_default_prec(5*1024)
Autorizzato sotto: CC-BY-SA insieme a attribuzione
Non affiliato a StackOverflow
scroll top