Problablement une question facile mais ce calcul me dérange .. pourquoi est double test = 57.05 - 57
égal à 0.049999999999997158 et pas 0.05? Et quel type de données dois-je utiliser pour obtenir le bon résultat?Simple calcul de C# - types de données
Répondre
Utilisez un decimal
. Et lisez this.
+1 Très important de connaître la différence. – ChaosPandion
Au lieu de "Très" je dirais "Vitally" – NotMe
Les calculs du nombre à virgule flottante ne sont pas aussi corrects.
Que diriez-vous double-precision-problems-on-c-net
Essayez de convertir .05 décimal en binaire et me dire quel résultat vous (indice: il est une valeur de répétition).
Réponse longue: Floating Point Representation
Réponse courte: types comme deux sont conformes à la norme IEEE 754, qui dicte les types de données qui peuvent avoir un point décimal partout (flottant). En raison de la représentation dans le binaire natif de l'ordinateur, le résultat des opérations mathématiques sur ces représentations dans de nombreux cas peut seulement être une approximation du résultat réel.
- 1. Calcul de date simple en C#
- 2. Types de données C# et types de données MySql
- 3. C# et XML feuille de calcul simple question
- 4. Types de données natifs C# vs types CTS .NET
- 5. C# Enum pour les types de données
- 6. C# datatypes -> types de données oracle
- 7. PostgreSQL et les types de données C#
- 8. Calcul simple dans SQL Server
- 9. Plugin de calcul jQuery - Simple conseil nécessaire
- 10. Calcul distribué simple (similaire à la sommation) (en C++)
- 11. Simple 'base de données' en C++
- 12. Types de données dans Accelerate.framework
- 13. types de données python
- 14. types de données OpenCV
- 15. Types de données dbUnit
- 16. Comment regrouper une écriture de base de données et d'écrire une feuille de calcul simple « transaction »
- 17. et modificateurs de types de données en C datatype
- 18. Comment obtenir la plage de types de données dans C#?
- 19. Bibliothèque de types de données variable pour C
- 20. C# gère plusieurs types de bases de données?
- 21. Types de données énumérés et API de classe en C++
- 22. Calcul de bord triangulaire C++
- 23. Calcul de coordonnées Objective-C
- 24. Calcul rapide de crc32 C#:
- 25. calcul des valeurs de hachage, types entiers versus struct/classe
- 26. Cadre de calcul distribué en c/C++
- 27. Un moyen d'obtenir le résultat d'une expression de calcul simple?
- 28. Toute bibliothèque pour les types de données génériques dans C?
- 29. Quels types de données C# ne sont pas sérialisables WCF?
- 30. C++ types de données primitives: lire non signé 30 bits
mais d'un point de vue * ingénierie *, il s'agit d'une erreur de 0,000000000005 pour cent, et devrait être assez proche. – pavium