Lookup liefert abgefälschte Werte

    Diese Seite verwendet Cookies. Durch die Nutzung unserer Seite erklären Sie sich damit einverstanden, dass wir Cookies setzen. Weitere Informationen

    Aufgrund technischer Veränderungen ist der Mailverkehr innerhalb des Forums (Private Nachrichten) nur noch eingeschränkt möglich. Die Einschränkung ist notwendig, um zusätzliche Betriebskosten für das Forum zu vermeiden. Näheres zu den Hintergründen im Thread "Aktuelles zum Forum".Wir bitten um Verständnis.

    Hinweis kann nach Kenntnisnahme deaktiviert werden!

    • Lookup liefert abgefälschte Werte

      Hallo,

      beim Auslesen von Single-Werten mit "lookup" aus einer Tabelle kommen bei mir zum Teil abgefälschte Werte zurück.
      Passiert im Simulator und auch im realen Chip mit Terminalprog. zur Anzeige.
      Bascom-Version ist 2083, mit der 2082 exakt gleiches Verhalten.
      Das Testprogramm und ein im Terminalfenster des Simulators erzeugtes Logfile (.txt) anbei.
      Im Logfile sind die falschen Werte nachträglich gekennzeichnet.
      Habe schon viel ausprobiert: verschiedene Baudraten / Taktfrequenz / Wartezyklen usw. Ohne Erfolg
      Irgendwas mache ich wohl falsch. Das Verhalten ist aber immer reproduzierbar, habe auch schon den PC zum Kompilieren gewechselt.
      Vielleicht kann das mal jemand ausprobieren und mir weiterhelfen.

      Vielen Dank und Grüße an das Forum.
      Joachim
      Daten_aus_Tabelle_holen.bas / Daten_aus_Tabelle_holen.txt
    • Die Werte können nicht besser sein, dazu reicht die Auflösung (4Byte) nicht. Schreib mal
      Tabellenwert = 0.118371423
      Print Tabellenwert
      Ergibt auch 0.118371364
      Als Double (8Bytes) wäre es genau genug. Jedoch müsste das Print angepasst werden:
      Print Tabellenwert
      ergäbe dann 118.371423E-3

      Dieser Beitrag wurde bereits 1 mal editiert, zuletzt von Pluto25 ()