Projekt

Allgemein

Profil

« Zurück | Weiter » 

Revision b36ef567

Von Moritz Bunkus vor fast 15 Jahren hinzugefügt

  • ID b36ef567192b240f29d22affafcdcd985db1d392
  • Vorgänger f11dcc70
  • Nachfolger 8579b570

Beim Runden zuerst auf acht Stellen runden, danach auf die gewünschte Anzahl

Die interne Repräsentation von Fließkommazahlen in modernen CPUs ist
immer ungenau. Um zu vermeiden, dass man mit int() zu viel
abschneidet, weil der Nachkommaanteil eben nicht ganz exakt 0 sondern
z.B. 999999999999594 ist, wird zuerst auf acht Stellen gerundet, um
diese Ungenauigkeit zu vermeiden.

Fix für Bug 1115.

  • hinzugefügt
  • geändert
  • kopiert
  • umbenannt
  • gelöscht