Wertebereich von Variablen



  • Hi

    Bitte frag doch mal eine Suchmaschine.
    Und führe mal den code aus von "mngbd".
    Was hast du den für ein Compiler ?

    lowbyte



  • Ich benutze den Visual Studio Professional 2010 RC.

    Es lag natürlich am Wertebereich.

    Was ich euch verschwiegen hatte war die Tatsache, dass sich der Wert für X innerhalb meines Programms auch noch verändert.
    Mir ist allerdings nicht aufgefallen, dass es sehr schnell in Richtung 1e-27 ging.
    Da hatte ich es noch in der Größenordnung 1e-10 vermutet.
    Das von 1 abzuziehen läuft natürlich nicht ...

    Danke Euch!



  • sega schrieb:

    Ich benutze den Visual Studio Professional 2010 RC.

    Das ist schade. Es gibt in C99 auch noch long double , was typischerweise genauer ist als double . Nur leider versteht Microsoft kein C99.

    1 - 1e-27 ist aber sehr nahe an 1, für solche Zahlen solltest du vermutlich eine externe Zahlen-Bibliothek verwenden.
    🙂


Anmelden zum Antworten