Guten Morgen liebes Forum,
ich suche (und finde keine) Infos, wie man mit Double-Format rechnen kann.
Das Problem ist, das ich für den Bosch-Luftsensor BME680 die Kalibrierung der Luftdruckwerte nicht hinbekommen, weil als Format für eine der Berechnungen (scheinbar) Double gebraucht wird.
Die Kalibrierwerte sind rechnen im "Milliardenbereich".
In der Hilfe steht zu Double eigentlich gar nichts, es gibt eine double.lbx. Kann man in Bascom denn überhaupt mit Double rechnen, ohne Klimmzüge machen zu müssen?
In einem anderen Code habe ich mal gesehen, dass man niederwertige Typen zunächst über single wandeln muss, und von Single zu Double, obwohl mir das jetzt nicht ganz klar ist, warum.
Denn wo ist das Problem, eine "kleine" Zahl in einen "großen" Zahlenraum zu schreiben....auch wenn die kleinere Zahl vorzeichenbehaftet ist, das passt ja trotzdem ins Double-format, das MSB muss eben nur nach vorn geschoben werden im Compiler.
ich suche (und finde keine) Infos, wie man mit Double-Format rechnen kann.
Das Problem ist, das ich für den Bosch-Luftsensor BME680 die Kalibrierung der Luftdruckwerte nicht hinbekommen, weil als Format für eine der Berechnungen (scheinbar) Double gebraucht wird.
Die Kalibrierwerte sind rechnen im "Milliardenbereich".
In der Hilfe steht zu Double eigentlich gar nichts, es gibt eine double.lbx. Kann man in Bascom denn überhaupt mit Double rechnen, ohne Klimmzüge machen zu müssen?
In einem anderen Code habe ich mal gesehen, dass man niederwertige Typen zunächst über single wandeln muss, und von Single zu Double, obwohl mir das jetzt nicht ganz klar ist, warum.
Denn wo ist das Problem, eine "kleine" Zahl in einen "großen" Zahlenraum zu schreiben....auch wenn die kleinere Zahl vorzeichenbehaftet ist, das passt ja trotzdem ins Double-format, das MSB muss eben nur nach vorn geschoben werden im Compiler.
Dieser Beitrag wurde bereits 2 mal editiert, zuletzt von Peer Gehrmann ()