BigDecimal to_s ne correspond pas à

Question

La classe BigDecimal est-elle brisée? Il semble que ce qui suit devrait jamais, jamais se produire: Notez que a.to_f = a.to_s.to_f

a.class => BigDecimal

a.to_f => 18658,1072928!

a.to_s => "10865,81072928"

b.class => BigDecimal

b.to_f => 10000.0

b.to_s => "10000.0"

(a - b) .to_f => 865,81072928

a.to_f - b.to_f => 8658.1072928

Toutes les idées sur ce qui pourrait aller mal? Nous courons ruby ​​1.8.7p72 sur nos serveurs et 1.8.7p173 sur nos machines locales.

Answer 1

Si vous utilisez Mac OS X 10.6.3 alors cela pourrait être une explication: http://www.abletech.co.nz/2010/03/osx-10-6-3-installs-new-ruby-with-faulty-bigdecimal/

Pour se débarrasser du problème que vous pouvez utiliser RVM.

Answer 2

Comme le disent docs:

to_f:

Renvoie un nouvel objet flotteur ayant à peu près la même valeur que le nombre BigDecimal. Les limites de précision normales et les erreurs intégrées de l'arithmétique Float binaire s'appliquent.

Cela signifie que Float en rubis se comporte comme un flotteur partout: http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems

Non chaque numéro est représentable par un flotteur. Dans ce cas, le nombre est arrondi.