Rundungsmodus testen
-
Hallo,
wie kann ich testen, ob die Rundungsmodi korrekt arbeiten?
Wie gebe ich eine Zahl 2^-52 ein?Gruss Boris
-
2^52 kann man nicht direkt eingeben, wenn man aber 2*10^-52 eingeben will, dann ist das 2e-52.
Felix
-
Das ist richtig, aber ich möchte eine Zahl haben, die binär exakt darstellbar ist und bei der z.B. eine Addition mit eins eben eine Rundung auslöst. 2^-52 ist eine solche Zahl. Ich weiß jedoch nicht wie ich die eingeben kann. Eine Möglichkeit wäre vielleicht sie hexadezimal einzugeben
-
wie wärs mit 1.0/65536/65536/65536/16 ?
-
Guter Tip! Danke.
Hätte ich eigentlich auch selber drauf kommen können.