ungenaue Double-Werte
-
hallo zusammen.
Ich schreibe gerade eine mathematische Anwendung und stelle eine eigenartige
ungenauigkeit bei Double-Werten fest.Wenn ich z.B. so etwas schreibe:
double x=0.03
dann bekomme ich im Debugger den Wert 0.02999999999999999999.
Bedauerlicherweiße rechnet er auch mit diesem Wert und nicht mit
den angegebenem Wert 0.03.Hat jemand eine Ahnung woran das liegen könnte?
-
-
daran, dass ein double 0.03 nicht exakt darstellen kann...
-
danke für die schnelle Antwort.
