Vergleichsoperationen in HM Script funktionieren nicht immer

[paul53]

Durch Bildung von Nachkommastellen "weit hinten" bei der Verwendung von Meßwerten funktionieren Vergleichsoperationen in HM Script manchmal nicht wie erwartet.

Code: Alles auswählen

string raum = "Wohnen";

var x;
x = dom.GetObject(raum#".Sensor").DPByHssDP("TEMPERATURE").Value();
WriteLine(x);

x  = x - 12.1;
WriteLine(x);
if (x == 0.0) {WriteLine("Vergleich o.k.");}
else {WriteLine("Vergleich falsch");}
WriteLine(x * 100000);

Ausgabe:

Code: Alles auswählen

12.100000
-0.000000
Vergleich falsch
-0.000596

Workaround: Verwendung von Systemvariablen als Zwischenspeicher für Meßwerte. Bei Verwendung von Systemvariablen als Zwischenspeicher habe ich das fehlerhafte Verhalten noch nicht beobachtet. Das Zwischenspeichern in SV ist aufgrund der Reboot-Problematik (Initialisierung der Meßwerte auf 0 bei Reboot) ohnehin zu empfehlen.

Oder in String und wieder zurück wandeln:

Code: Alles auswählen

x = x.ToString(1).ToFloat();

[stefanp]

Gerade da ein Float per WriteLine nur mit 5 NKs angezeigt wird versuche ich mir gerade die Begeisterung auszumalen wenn man diesen Fehler nach ewiger Suche entdeckt.

Großes Kino

[paul53]

... versuche ich mir gerade die Begeisterung auszumalen wenn man diesen Fehler nach ewiger Suche entdeckt.

Deshalb habe ich den Fehler hier publiziert. In dem Thread http://homematic-forum.de/forum/viewtop ... =27&t=8258, in dem er vielleicht das erste Mal festgestellt wurde, ist er ein Problem unter anderen und geht dort deshalb vermutlich unter.

[Katte]

Ich kann nur jedem raten, bei Gleitkommazahlen auf einen Vergleich auf Gleichheit zu verzichten. Das gilt auch für andere Programmiersprachen und hat schon Generationen von Programmierern in den Wahnsinn getrieben!

Code: Alles auswählen

string raum = "Wohnen";

real x;
x = 10 * dom.GetObject(raum+".Sensor").DPByHssDP("TEMPERATURE").Value();
integer ix = x.ToInteger();
ix  = ix - 121;
if (ix == 0 ) 
{
  WriteLine("Vergleich o.k.");
}
else
{
  WriteLine("Vergleich falsch");
}