Pluto25 schrieb:
Ein viertel Flash für eine ungenaue Berechnung.
Zeige doch mal deinen Code der das ungenaue Ergebnis liefert.
Wenn ich sowas mache:
Die beiden Werte dür DW können dann per Overlay oder auch direkt beim Einlesen in die variable abgelegt werden. Und ja, beim erstmaligen Verwenden von Double wird die Lib mit reingeladen, was Flash verbraucht. Und ja, die Berechnung dauert schon einige 100 Takte. Na und, Hauptsache korrekt.
Mitch64 schrieb:
Wie kommst du denn auf diesen Umrechnungsfaktor 0,65536?
Man könnte es ganz in Integer auch so machen:
&H7853095E / 3906 = 516822, ein Fehler von weit unter 1 Promille.
Mitch64 schrieb:
Und warum soll das mit dem Overlay nicht gehen?
Ein Double wird in 8 Byte (ein Single in 4 Byte) gespeichert. Will man ein Double übertragen, würden also 8 Hexwerte übertragen. Fügt man die im Empfänger wieder zusammen, hat man seinen Double wieder.