Rechenproblem im Script

[Wichtelmann007]

vermutlich ein blöder Fehler, was muss ich ändern?
Wenn ich für faktor zB 2 Eingebe, wird korrekt gerechnet.

Code: Alles auswählen

 integer faktor = 0.0366667;
 integer iVerbrauchAktuell = igesmin_Gesamt * faktor;
 integer iTankinhaltAktuell = oSVr_TankAktuell.Value();

WriteLine("faktor              "#faktor);
WriteLine("igesmin_Gesamt      "#igesmin_Gesamt);
WriteLine("iVerbrauchAktuell   "#iVerbrauchAktuell);
WriteLine("iTankinhaltAktuell  "#iTankinhaltAktuell);

Ausgabe:

Code: Alles auswählen

faktor              0.036667
igesmin_Gesamt      5057
iVerbrauchAktuell   0
iTankinhaltAktuell  3000.000000

[Xel66]

Mach mal Klammern um die Rechnung. reiht nicht. Tausche einfach die beiden Faktoren der Rechnung. Vermutlich macht er aus dem Faktor eine Integerzahl (=0) und rechnet dann erst. Ist vermutlich eine Folge der dynamischen Typzuweisung.

Gruß Xel66

[MichaelN]

Wenn man offensichtlich mit Integer rechnen will, sollte man sich nciht wundern, wenn es keine Nachkommastellen gibt.

[Xel66]

...wenn es keine Nachkommastellen gibt.

Das war ja nicht das Problem, sondern das Produkt war 0 und hätte 158 und ein paar Zerquetschte sein müssen. Die Rechenregeln der CCU sind das Problem (rechts nach links).

Gruß Xel66

[Matsch]

Warum sind alle Variablen integer definiert, wenn es real sein sollen?

Code: Alles auswählen

integer igesmin_Gesamt = 5057;
real faktor = 0.0366667;
real iVerbrauchAktuell = igesmin_Gesamt.ToFloat() * faktor;

WriteLine("faktor              "#faktor);
WriteLine("igesmin_Gesamt      "#igesmin_Gesamt);
WriteLine("iVerbrauchAktuell   "#iVerbrauchAktuell);

[Tyfys]

sieh dir mal die Unterschiede an :

Code: Alles auswählen

integer a =0.0366667;
integer b = 2;

WriteLine(a.Type());
WriteLine(b.Type());

var c = b * a;
var d= a  * b;

WriteLine(c);
WriteLine(d);

[Wichtelmann007]

...wenn es keine Nachkommastellen gibt.

Das war ja nicht das Problem, sondern das Produkt war 0 und hätte 158 und ein paar Zerquetschte sein müssen. Die Rechenregeln der CCU sind das Problem (rechts nach links).

Gruß Xel66

DANKE, da soll mal einer drauf kommen...

[Wichtelmann007]

Warum sind alle Variablen integer definiert, wenn es real sein sollen?

Code: Alles auswählen

integer igesmin_Gesamt = 5057;
real faktor = 0.0366667;
real iVerbrauchAktuell = igesmin_Gesamt.ToFloat() * faktor;

WriteLine("faktor              "#faktor);
WriteLine("igesmin_Gesamt      "#igesmin_Gesamt);
WriteLine("iVerbrauchAktuell   "#iVerbrauchAktuell);

muss ich noch ändern, danke

[Matsch]

Du hast auch gesehen, dass ich die Integer in real konvertiert habe? Dann ist die Reihenfolge wurscht.

[MichaelN]

da soll mal einer drauf kommen...

Man könnte ja die Doku lesen...