Hallo Community,

Ich würde gerne bei einer Single Variablen mit Config single = Scientific, Digits= 3 die Nachkommastellen auf 3 reduzieren wollen, dieses allein nur für einen Ausgabeprozess auf eine SD-Card.

Nun lese ich zum Einsatz dieses Befehls, dass es einen Nachteil mit ungenaueren Berechnungsergebnissen gibt. Gilt denn dieser Config Single Befehl nun auch automatisch für das restliche Programm? Wenn ja, wie kann man denn dann wieder auf die höhere Rechengenauigkeit für die anderen Berechnungen im Progamm zurückstellen?


Ich hoffe ich habe es verständlich formuliert?

Gruß
Ulrich

@Michael

danke für diese Info.
Mich hatte der Hinweis auf den Nachteil in der Berechnung irritiert, ich nehme nun an, dass dieser Nachteil allein nur für die Umwandlung der Single Variable für eben diese Ausgabe gilt.
D.h. die ausgegebenen Werte büßen etwas an Genauigkeit ein.

Da muss man dann von Fall zu Fall überprüen, ob man damit leben kann.

Guß
Ulrich

@Michael

Das mit der begrenzten Gehauigkeit und auch der Fusing Befehl ist mir schon bekannt. Ich wollte lediglich die Ausgabe der Single-Variablen auf die SD-Card bzgl. der Nachkommastellen etwas reduzieren, damit sie bei der Darstellung auf der Y-Achsemit des CSV-Viewers nicht einen so langen "Nachkommaschwanz" haben.

Aber vielleicht erübrigt sich das schon, weil ich sehe, dass der CSV Viewer von Haus aus nur 3 Nachkommastellen abbildet. Das muss ich noch weiter überprüfen.

Dennoch vielen Dank für deine Unterstützung.