Projekt

Allgemein

Profil

« Zurück | Weiter » 

Revision 26a5973f

Von Moritz Bunkus vor mehr als 10 Jahren hinzugefügt

  • ID 26a5973f82e070ba072f22ab9cf71fad0c5b92c3
  • Vorgänger 0152cc2e
  • Nachfolger a75bd966

round_amount: Fix für falsches Runden bestimmter Werte

Gewisse Werte wie z.B. 33,675 wurden bei 2 Stellen falsch gerundet,
nämlich auf 33,67 anstelle von 33,68. Bei anderen Werten hingegen
funktionierte es (beispielsweise 149,175 @ 2 → 149,18).

Grund war, dass durch das Addieren von 0.5 wieder Fließkommaberechnung
und damit die Ungenauigkeit der Präsentation der IEEE-Fließkommazahlen
ins Spiel kommt. Das anschließende int() schneidet dann die
Fließkommazahl falsch ab, ungefähr so:

- Initial: 33,675
- Linksshift um 2 Dezimalstellen, also * 100: 3367,5
- Dann + 0.5 und truncate, hier passierts: +0.5 =
3367,499999999999999999999958 (auch wenn Perl das in der Ausgabe als
3368 darstellen würde) oder so, davon int() ergibt nun mal 3367 vor
anschließendem Rechtsshift um 2 Dezimalstellen

Lösung ist, bis auf das Links-/Rechtsshiften um die Dezimalstellen gar
keine Fließkommaberechnung zu verwenden. Eine Variante ist, eine Stelle
mehr zu shiften als man an Genauigkeit will, dann 5 zu addieren und
anschließend auf das nächst kleinere Vielfache von 10 zu
reduzieren (durch simples Abziehen vom Modulo 10).

Um die Logik leicht einfacher zu halten, wird das Vorzeichen anfangs
ermittelt und ab dann nur noch mit dem Absolutwert der Zahl
gerechnet. Das ursprüngliche Vorzeichen wird erst nach dem erneuten
Rechtsshift, also ganz am Schluss der Berechnung, wieder hergestellt.

Unterschiede anzeigen:

SL/Form.pm
948 948
}
949 949

  
950 950
sub round_amount {
951
  $main::lxdebug->enter_sub(2);
952

  
953 951
  my ($self, $amount, $places) = @_;
954
  my $round_amount;
955 952

  
956 953
  # Rounding like "Kaufmannsrunden" (see http://de.wikipedia.org/wiki/Rundung )
957 954

  
958 955
  # Round amounts to eight places before rounding to the requested
959 956
  # number of places. This gets rid of errors due to internal floating
960 957
  # point representation.
961
  $amount       = $self->round_amount($amount, 8) if $places < 8;
962
  $amount       = $amount * (10**($places));
963
  $round_amount = int($amount + .5 * ($amount <=> 0)) / (10**($places));
958
  $amount   = $self->round_amount($amount, 8) if $places < 8;
964 959

  
965
  $main::lxdebug->leave_sub(2);
960
  # Remember the amount's sign but calculate in positive values only.
961
  my $sign  = $amount <=> 0;
962
  $amount   = abs $amount;
966 963

  
967
  return $round_amount;
964
  # Shift the amount left by $places+1 decimal places and truncate it
965
  # to integer. Then to the integer equivalent of rounding to the next
966
  # multiple of 10: first add half of it (5). Then truncate it back to
967
  # the lower multiple of 10 by subtracting $amount modulo 10.
968
  my $shift = 10 ** ($places + 1);
969
  $amount   = int($amount * $shift) + 5;
970
  $amount  -= $amount % 10;
968 971

  
972
  # Lastly shift the amount back right by $places+1 decimal places and
973
  # restore its sign. Then we're done.
974
  $amount   = ($amount / $shift) * $sign;
975

  
976
  return $amount;
969 977
}
970 978

  
971 979
sub parse_template {

Auch abrufbar als: Unified diff