Frage

Wenn ich eine Abfrage durch DBslayer http://code.nytimes.com/projects/dbslayer die Gleitkommaprozessor Ergebnisse sind trunkiert auf insgesamt sechs Stellen (plus Dezimalpunkt und negativen unterzeichnen, wenn erforderlich).

{... "lat": 52,2228, "lng": - 2,19906 ...}

Wenn ich die gleiche Abfrage in MySQL ausführen, werden die Ergebnisse wie erwartet.

| 52.22280884 | -2,19906425 |

Zum einen bin ich bei der Identifizierung DBSlayer als Ursache für diese Korrektur bewirken? (Oder die JSON-Bibliothek nutzt, etc.)

Zweitens ist diese Gleitkommagenauigkeit konfigurierbar innerhalb DBSlayer?

Danke,

Chris.

P. S. Ubuntu 9.10, x86_64

Pfad:. URL: http://dbslayer.googlecode.com/svn/trunk Repository Root: http://dbslayer.googlecode.com/svn Repository-UUID: 5df2be84-4748-0410-afd4-f777a056bd0c Revision: 65 Knotentyp: Verzeichnis Zeitplan: normal Zuletzt geändert Autor: dgottfrid Zuletzt geändert Rev: 65 Zuletzt geändert am: 2008-03-28 22.52.46 0.000 (Fr, 28. März 2008)

War es hilfreich?

Lösung

Ich löste schließlich dieses Problem.

Es gibt mehrere Orte, an denen DBSlayer printf die% g Format verdoppelt verwendet. Dies gibt nur 6 signifikante Stellen.

all diese Vorkommnisse mit% Ersetzen .15g und neu zu kompilieren, ist das Problem gelöst.

Lizenziert unter: CC-BY-SA mit Zuschreibung
Nicht verbunden mit StackOverflow
scroll top