Problèmes de précision avec Visual Studio 2010

Question

J'ai une application écrite en Microsoft Visual C++ 6.0. Maintenant, j'ai réécrit l'application dans Visual Studio 2010 en utilisant C#, mais les résultats ne correspondent pas en raison de problèmes de précision. L'un de ces problèmes de précision est le suivant.

float a = 1.0f; 

float b = 3.0f; 

float c = a/b; 

Ceci est le code C# lorsqu'il est exécuté dans Visual Studio 2010 donne c valeur = 0.333333343

Mais le même code, la suppression f après la valeur dans la définition de la valeur, lorsqu'il est exécuté sur Visual C++ 6.0 donne la valeur c = 0.333333.

Quelqu'un peut-il le trier et expliquer la façon d'avoir la même valeur pour c dans Visual Studio ainsi que dans Visual C++ 6.0 ??

---

En fait, les valeurs sont extraites de la fenêtre de surveillance. Je suis venu à savoir que les différentes versions de Visual Studio peuvent différer dans la représentation en format virgule flottante. Par conséquent, les valeurs en veille peuvent ne pas être utiles. C'est la raison pour laquelle j'ai imprimé les valeurs dans les deux versions de Visual Studio et les résultats sont les suivants. avec Visual Studio 6.0 en utilisant visual C++ langue, il est 0,333333 (six 3 années)

mais avec Visual Studio 10 en utilisant le langage C# est 0,3333333 (sept 3 années)

Alors quelqu'un peut-il me aider à faire mon programme C# produire le même résultat que visuel C++ ??? (comment puis-je faire des opérations flottantes pour produire les mêmes résultats sur les deux versions ???)

Answer 1

Étant donné que la valeur exacte est 0,3 récurrente, aucun d'entre eux est "correct" - et si vous essayez de match exact résultats de calculs binaires à virgule flottante, c'est généralement une mauvaise idée pour commencer à cause de la façon dont ils fonctionnent. (Voir mon article sur binary floating point in .NET pour un peu plus d'informations).

Il est possible que vous ne devriez pas utiliser binaire en virgule flottante en premier lieu (par exemple, si vos valeurs représentent exactement, les montants artificiels tels que l'argent). Alternativement, il est possible que vous devriez seulement faire des comparaisons d'égalité avec une tolérance particulière.

Il est également possible que C# et C produisent le même schéma binaire exact - mais vous voyez des résultats différents en raison de la façon dont ces valeurs sont formatées. Encore une fois, je n'utiliserais pas la représentation textuelle des nombres pour les comparaisons.

Answer 2

C# affiche simplement moins de décimales. 0.333333343 arrondi à six chiffres significatifs est 0.333333. La valeur sous-jacente de c est la même.

Bien sûr, si vous voulez plus de précision, vous pouvez toujours utiliser les variables double.

Answer 3

Le point flottant C# peut être géré par les types float et double. Un float type a une précision de 7 chiffres et un double 16.

Je crois que la précision standard C++ est d'environ 16 chiffres (15.9 en moyenne!).

Dans tous les cas, aucune représentation n'est arithmétiquement correcte car 1/3 est 0,333 récurrent.

Je pense que c'est simplement la représentation de la valeur que vous voyez (sachez que le débogueur convertira la valeur en une chaîne pour l'affichage.) Si vous vérifiez les emplacements de mémoire pour chacun, vous trouverez probablement que les valeurs

Answer 4

Une vérification rapide révèle que oui, les chiffres sont exactement les mêmes, alors la réponse à votre question est: quand vous voulez la même sortie, tout ce que vous devez faire est de vous assurer que les méthodes d'affichage sont compatibles Par exemple, printf("%9.7f", result) en C et string.Format("{0:0.0000000}", result) en C# C'est tout