<![CDATA[floating point problem...]]>hallo liebe coder,

ich würd gern werte speichern, die bis zu einer grösse von 100,123 m genau passen (also höchstens 100 und 3 nachkommastellen )...

meine einzige bedingung ist jedoch, das ich mit bitfeldern arbeiten muss, also folglich nur integer zur verfügung habe....

ich verwende die speicherung des wertes so... 99,999 m = 99999 als int wert

danach übergebe ich an einen float und teile durch 1000...

soweit so gut, jedoch kann float diesen wert nicht mehr annehmen und dank des zweierkomplements wandelt er die in eine negative zahl um... !!!

gibt es noch eine andere möglichkeit?
und warum sagt man dann, dass float einen wertebereich von +- 1*E^38 hat ???

vielen dank im vorraus...

]]>https://www.c-plusplus.net/forum/topic/200261/floating-point-problemRSS for NodeTue, 07 Apr 2026 09:15:23 GMTWed, 12 Dec 2007 17:55:53 GMT60<![CDATA[Reply to floating point problem... on Wed, 12 Dec 2007 17:55:53 GMT]]>hallo liebe coder,

ich würd gern werte speichern, die bis zu einer grösse von 100,123 m genau passen (also höchstens 100 und 3 nachkommastellen )...

meine einzige bedingung ist jedoch, das ich mit bitfeldern arbeiten muss, also folglich nur integer zur verfügung habe....

ich verwende die speicherung des wertes so... 99,999 m = 99999 als int wert

danach übergebe ich an einen float und teile durch 1000...

soweit so gut, jedoch kann float diesen wert nicht mehr annehmen und dank des zweierkomplements wandelt er die in eine negative zahl um... !!!

gibt es noch eine andere möglichkeit?
und warum sagt man dann, dass float einen wertebereich von +- 1*E^38 hat ???

vielen dank im vorraus...

]]>https://www.c-plusplus.net/forum/post/1419533https://www.c-plusplus.net/forum/post/1419533Wed, 12 Dec 2007 17:55:53 GMT<![CDATA[Reply to floating point problem... on Wed, 12 Dec 2007 19:22:05 GMT]]>Das kann nicht sein. Wie rechnest Du das?

int i = 99999;
double d = static_cast<double>(i)/1000;

Liefert ein korrketes Ergebnis.

]]>https://www.c-plusplus.net/forum/post/1419597https://www.c-plusplus.net/forum/post/1419597Wed, 12 Dec 2007 19:22:05 GMT<![CDATA[Reply to floating point problem... on Fri, 14 Dec 2007 09:31:40 GMT]]>... danke für die schnelle antwort...

habe das mit (double) anstatt static_cast gelöst...

double s = (double) ptpol.GetValS()

gruss, x-coder

]]>https://www.c-plusplus.net/forum/post/1420359https://www.c-plusplus.net/forum/post/1420359Fri, 14 Dec 2007 09:31:40 GMT<![CDATA[Reply to floating point problem... on Fri, 14 Dec 2007 10:11:02 GMT]]>Gewöhne Dir die C-casts ab. static_cast sollte immer die erste Wahl sein!

]]>https://www.c-plusplus.net/forum/post/1420400https://www.c-plusplus.net/forum/post/1420400Fri, 14 Dec 2007 10:11:02 GMT