Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03458.jsonl.gz/2219

Rundung
Werden Zahlen gerundet, kann Genauigkeit verloren gehen!
Rechnungen mit Papier, Bleistift und Taschenrechner
Empfehlung: Rechnen Sie möglichst ohne zu runden und überlegen Sie am Schluss der Rechnung, wieviele Stellen sinnvollerweise angegeben werden sollen!
Beispiel: Sie messen einen Kreisradius zu 16.5 mm und errechnen den Umfang mit dem Taschenrechner zu 103.672557568 mm. Es ist nicht sinnvoll alle Stellen anzugeben, da der Radius nur auf 3 signifikante Stellen bekannt ist. Sinnvoller ist es, das Resultat als 104 mm, also auch auf 3 Stellen anzugeben, oder vorsichtiger die 4. Stelle noch beizubehalten (103.7 mm).
Rechnungen mit dem Computer
Nehmen Sie einen Computer zu Hilfe, sind zusätzliche Punkte zu beachten.
Die Zahlen werden intern im Binärcode dargestellt. Es gibt Zahlen, die im Dezimalsystem nur 1 Stelle haben, aber im Binärsystem sehr viele Stellen benötigen!
Manchmal werden Zahlen im Computer mit sehr beschränkter Stellenzahl dargestellt. Beispielsweise ist eine sogenannt "einfach genaue Zahl" in einem FORTRAN-Programm (dominierende Programmiersprache in den Naturwissenschaften) nur 32 bit lang, d.h auf etwa 7 Dezimalstellen genau!
In einem Computerprogramm werden oft Millionen Operationen in kürzester Zeit abgewickelt. Rundungsfehler können dabei gewaltig anwachsen!
Hanspeter Huber, Departement Chemie der Universität Basel