Warum (unsigned int)(0.3*10.0) = 2 ?
-
Was soll daran schwachsinnig sein?
-
Stelfer schrieb:
compiler abhängig.... find ich aber selber schwachsinnig vom gcc
Stelfer, mach dich schlau bei IEEE 754 !
von Ney
-
damit meine ich:
wenn ich es eingebe erwarte ich das richtige ergebnis, beim msvs gehts ja auch und da sind diese überinkommen nicht relevant ...
-
Es ist das richtige Ergebnis. Deine Erwartung ist nur falsch.
-
[quote=".filmor"]Es ist das richtige Ergebnis. Deine Erwartung ist nur falsch.[/quote
mathematisch ist das ergebnis falsch !
man sollte immer auf etwas aufbauen ...
-
Mathematisch gibts keine endliche binäre Darstellung für 0,3. Sei froh, dass dir der Rechner dabei nicht um die Ohren fliegt.
-
.filmor schrieb:
Mathematisch gibts keine endliche binäre Darstellung für 0,3. Sei froh, dass dir der Rechner dabei nicht um die Ohren fliegt.
das ist der punkt... es gibts nicht also warum macht gcc nicht gleich wie ms und macht 0,3*10 = 0,3
-
Stelfer schrieb:
warum macht gcc nicht gleich wie ms und macht 0,3*10 = 0,3
Das trau ich nichtmal MS zu, dass 0.3*10 = 0.3
Ansonsten mein gcc gibt mir überall 3 aus.
$ gcc --version
gcc (GCC) 4.1.1 (Gentoo 4.1.1-r3)und
$ gcc --version
i686-apple-darwin8-gcc-4.0.1 (GCC) 4.0.1 (Apple Computer, Inc. build 5363)
-
Entenwickler schrieb:
$ gcc --version
gcc (GCC) 4.1.1 (Gentoo 4.1.1-r3)und
$ gcc --version
i686-apple-darwin8-gcc-4.0.1 (GCC) 4.0.1 (Apple Computer, Inc. build 5363)Yeah, genau damit hätte ich auch dienen können
-
Was ich hier "schwachsinnig" finde, ist mit floating-point Zahlen zu arbeiten, und genaue Ergebnisse zu erwarten.
Wenn man 0.3*10==3 haben will muss man schon mit fixed-point/BCD/... rechnen.
