Rechnet VC++ ungenau?
-
Habe folgendes Problem:
#include <math.h>
double ys;
CString c_ausgabe;ys = 100/3;
c_ausgabe.Format("%.16lf", ys);
dc.TextOut(0,0, c_ausgabe); // Ausgabe ist: 33.000000000000000
Bei ys = 1/3 ist das Ergebnis 0.0000000000000000. Richtig berechnet wird jedoch ys = sqrt(2);....
Gibt es eine Lösung für das Problem, oder hat meine CPU einen schlimmeren Pentium-Bug
[ Dieser Beitrag wurde am 22.11.2002 um 18:06 Uhr von Necromancer editiert. ]
-
ys = 100/3; -> ys = 100.0/3 // Hoffe daß das dein Fehler ist
[edit] Es ist dein Fehler
[/edit][ Dieser Beitrag wurde am 22.11.2002 um 18:23 Uhr von ºgrimmsenº
editiert. ]
-
Hehe jo...
thx, es funzt..