Baxxy hat geschrieben: ↑02.04.2022, 18:01
Hmm interessant, aber was bedeutet das jetzt.
Das das so "normal" ist?
Dann dürfte ja keiner der Werte "glatt" dargestellt werden, es sei denn es findet noch irgendwo intern eine Rundung statt:
Code: Alles auswählen
1013.50 > 1013.5 -> ReGa: 1013.500000
1013.60 > 1013.5999755859375 -> ReGa: 1013.599999
1014.70 > 1013.70001220703125 -> ReGa: 1013.700000
1014.80 > 1013.79998779296875 -> ReGa: 1013.799999
Kurios
Grüße, Baxxy
Hi Baxxy,
das bedeutet dass nicht jedes floating point value in den IEEE-754 Formaten exakt darstellbar ist, schon gar nicht im Single Format was 32bit breit ist.
Daran ist nichts zu ändern.
Die Unterschiede die du siehst liegen m.E. daran dass unterschiedliche HM Entwickler bei Log-Ausgaben in den internen Module verschiedene
Formatier- bzw. Rundungsoptionen verwenden, ggf. erledigen dass auch Bibliotheken die sie verwenden, im Hintergrund ohne dass der Entwickler sich darum zu viele Gedanken macht.
Und je nach Programmiersprache/Bibliothek/Formatieroptionen der Zahl kommen dann unterschiedliche Ausgaben in den einzelnen Modulen zustande - wenn die Zahl nicht exakt in das IEEE-754 Format passt.
z.B. 1013.5 passt exakt, 1014.8 nicht
https://www.h-schmidt.net/FloatConverter/IEEE754.html
Lohnt sich imho nicht, da zu viel Zeit für "Fehlersuche" zu verwenden.