<![CDATA[Warum (unsigned int)(0.3*10.0) = 2 ?]]>Hallo,

warum gibt folgendes Programm
3 2 3
aus?
Ein typecast sollte doch eigentlich nur die Dezimalstellen abscheiden ?!
Vermutlich gibts irgendwo Rechenfehler. Aber warum ist die Ausgabe von dem double dann nicht 2.9999999999999999 ??

ciao Knut

---

#include <iostream>
using namespace std;

int main(int argc, char **argv) {
double a = 0.3;
double b = 10.0;
cout << (unsigned int)(0.3*10.0) << " " << (unsigned int)(a*b) << " " << (a*b) << endl;
return 0;
}

]]>https://www.c-plusplus.net/forum/topic/181340/warum-unsigned-int-0-3-10-0-2RSS for NodeTue, 22 Sep 2026 07:12:55 GMTSat, 12 May 2007 16:38:47 GMT60<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sat, 12 May 2007 16:38:47 GMT]]>Hallo,

warum gibt folgendes Programm
3 2 3
aus?
Ein typecast sollte doch eigentlich nur die Dezimalstellen abscheiden ?!
Vermutlich gibts irgendwo Rechenfehler. Aber warum ist die Ausgabe von dem double dann nicht 2.9999999999999999 ??

ciao Knut

---

#include <iostream>
using namespace std;

int main(int argc, char **argv) {
double a = 0.3;
double b = 10.0;
cout << (unsigned int)(0.3*10.0) << " " << (unsigned int)(a*b) << " " << (a*b) << endl;
return 0;
}

]]>https://www.c-plusplus.net/forum/post/1283599https://www.c-plusplus.net/forum/post/1283599Sat, 12 May 2007 16:38:47 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sat, 12 May 2007 16:44:57 GMT]]>Das 2. soll 2 ausgeben? O.o

]]>https://www.c-plusplus.net/forum/post/1283605https://www.c-plusplus.net/forum/post/1283605Sat, 12 May 2007 16:44:57 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sat, 12 May 2007 17:14:48 GMT]]>knut312 schrieb:

Aber warum ist die Ausgabe von dem double dann nicht 2.9999999999999999 ??

Die rundet dann wohl...

]]>https://www.c-plusplus.net/forum/post/1283630https://www.c-plusplus.net/forum/post/1283630Sat, 12 May 2007 17:14:48 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sat, 12 May 2007 18:24:03 GMT]]>Thomas:~ Thomas$ cat > test.c #include <iostream> using namespace std; int main(int argc, char **argv) { double a = 0.3; double b = 10.0; cout << (unsigned int)(0.3*10.0) << " " << (unsigned int)(a*b) << " " << (a*b) << endl; return 0; } Thomas:~ Thomas$ g++ ./test.c -o testbin Thomas:~ Thomas$ ./testbin 3 3 3 ]]>https://www.c-plusplus.net/forum/post/1283657https://www.c-plusplus.net/forum/post/1283657Sat, 12 May 2007 18:24:03 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 12:35:18 GMT]]>wie kommst du auf 2 ? egal wie ich es mache ich kriege 3 raus

]]>https://www.c-plusplus.net/forum/post/1284001https://www.c-plusplus.net/forum/post/1284001Sun, 13 May 2007 12:35:18 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 15:59:16 GMT]]>hi,
das liegt daran, dass 0.3 * 10 < 3 ist. Siehe z.B.

double a = 0.3;
double b = 10.0;    //                                                    vvvvvvvv
cout << (unsigned int)(0.3*10.0) << " " << (unsigned int)(a*b) << " " << (a*b) - 3 << endl;

gibt bei mir mit gcc aus:   3 2 -1.110223024625157e-016

damit (unsigned int)(0.3*10.0) gleich 3 ergibt, muss (a*b) - 3 >= 0 sein, es ist aber negativ, also ist a*b < 3, also 2.xxxxx, und das wird auf 2 abgeschnitten.

vg tesu

]]>https://www.c-plusplus.net/forum/post/1284118https://www.c-plusplus.net/forum/post/1284118Sun, 13 May 2007 15:59:16 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 17:06:02 GMT]]>compiler abhängig.... find ich aber selber schwachsinnig vom gcc

]]>https://www.c-plusplus.net/forum/post/1284156https://www.c-plusplus.net/forum/post/1284156Sun, 13 May 2007 17:06:02 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 17:11:12 GMT]]>Was soll daran schwachsinnig sein?

]]>https://www.c-plusplus.net/forum/post/1284162https://www.c-plusplus.net/forum/post/1284162Sun, 13 May 2007 17:11:12 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 17:25:40 GMT]]>Stelfer schrieb:

compiler abhängig.... find ich aber selber schwachsinnig vom gcc

Stelfer, mach dich schlau bei IEEE 754 !

von Ney

]]>https://www.c-plusplus.net/forum/post/1284170https://www.c-plusplus.net/forum/post/1284170Sun, 13 May 2007 17:25:40 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 17:40:38 GMT]]>damit meine ich:
wenn ich es eingebe erwarte ich das richtige ergebnis, beim msvs gehts ja auch und da sind diese überinkommen nicht relevant ...

]]>https://www.c-plusplus.net/forum/post/1284178https://www.c-plusplus.net/forum/post/1284178Sun, 13 May 2007 17:40:38 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 17:49:46 GMT]]>Es ist das richtige Ergebnis. Deine Erwartung ist nur falsch.

]]>https://www.c-plusplus.net/forum/post/1284182https://www.c-plusplus.net/forum/post/1284182Sun, 13 May 2007 17:49:46 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 18:56:12 GMT]]>[quote=".filmor"]Es ist das richtige Ergebnis. Deine Erwartung ist nur falsch.[/quote

mathematisch ist das ergebnis falsch !
man sollte immer auf etwas aufbauen ...

]]>https://www.c-plusplus.net/forum/post/1284224https://www.c-plusplus.net/forum/post/1284224Sun, 13 May 2007 18:56:12 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 19:33:13 GMT]]>Mathematisch gibts keine endliche binäre Darstellung für 0,3. Sei froh, dass dir der Rechner dabei nicht um die Ohren fliegt.

]]>https://www.c-plusplus.net/forum/post/1284247https://www.c-plusplus.net/forum/post/1284247Sun, 13 May 2007 19:33:13 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 19:50:04 GMT]]>.filmor schrieb:

Mathematisch gibts keine endliche binäre Darstellung für 0,3. Sei froh, dass dir der Rechner dabei nicht um die Ohren fliegt.

das ist der punkt... es gibts nicht also warum macht gcc nicht gleich wie ms und macht 0,3*10 = 0,3

]]>https://www.c-plusplus.net/forum/post/1284262https://www.c-plusplus.net/forum/post/1284262Sun, 13 May 2007 19:50:04 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 19:54:57 GMT]]>Stelfer schrieb:

warum macht gcc nicht gleich wie ms und macht 0,3*10 = 0,3

Das trau ich nichtmal MS zu, dass 0.3*10 = 0.3 🕶

Ansonsten mein gcc gibt mir überall 3 aus.

$ gcc --version
gcc (GCC) 4.1.1 (Gentoo 4.1.1-r3)

und

$ gcc --version
i686-apple-darwin8-gcc-4.0.1 (GCC) 4.0.1 (Apple Computer, Inc. build 5363)

]]>https://www.c-plusplus.net/forum/post/1284267https://www.c-plusplus.net/forum/post/1284267Sun, 13 May 2007 19:54:57 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Sun, 13 May 2007 20:00:06 GMT]]>Entenwickler schrieb:

$ gcc --version
gcc (GCC) 4.1.1 (Gentoo 4.1.1-r3)

und

$ gcc --version
i686-apple-darwin8-gcc-4.0.1 (GCC) 4.0.1 (Apple Computer, Inc. build 5363)

Yeah, genau damit hätte ich auch dienen können 😉

]]>https://www.c-plusplus.net/forum/post/1284270https://www.c-plusplus.net/forum/post/1284270Sun, 13 May 2007 20:00:06 GMT<![CDATA[Reply to Warum (unsigned int)(0.3*10.0) = 2 ? on Mon, 14 May 2007 00:57:03 GMT]]>Was ich hier "schwachsinnig" finde, ist mit floating-point Zahlen zu arbeiten, und genaue Ergebnisse zu erwarten.
Wenn man 0.3*10==3 haben will muss man schon mit fixed-point/BCD/... rechnen.

]]>https://www.c-plusplus.net/forum/post/1284353https://www.c-plusplus.net/forum/post/1284353Mon, 14 May 2007 00:57:03 GMT