Valeur incorrecte lors de la coulée d'un flotteur (24) de la valeur à flotteur (53) dans SQL 2005

Question

Je courais ce code SQL dans SQL 2005

declare @a as float(24) 
set @a=0.85 
select cast (@a as float(53)) 

et le résultat est

0,850000023841858

Est-ce que quelqu'un sait pourquoi?

Merci.

Answer 1

Les sept premiers chiffres sont le niveau de précision par défaut pour un flotteur lorsque dans la déclaration flottante (N) la valeur de N est 24 ou moins. Après cela, les chiffres pourraient apparaître à peu près n'importe quoi quand jeté à un flotteur de plus grande précision. C'est le 'point flottant'.

http://msdn.microsoft.com/en-us/library/ms173773.aspx

Answer 2

Le numéro que vous voyez est aussi proche que l'ordinateur peut obtenir dans cependant beaucoup de chiffres binaires, il est disponible à utiliser.

Si vous essayez d'écrire 1/3 en décimal, mais que vous n'avez que suffisamment d'espace pour 8 chiffres, le plus proche est 0.33333333. C'est encore un peu loin, mais si vous aviez plus de décimales, vous pourriez obtenir plus de précision. C'est exactement la même chose que l'ordinateur fait face, mais alors que chacun de vos chiffres successifs représente 1/10ème, 1/100ème, 1/1000ème, l'ordinateur fonctionne en 1/2, 1/4, 1/8, 1/16 .