2017-09-30 7 views
-3

Utilisation Consulo IDE J'essaie de savoir pourquoi Math.pow retourne faux numéro:Unité Math.pow donnant des résultats erronés

à double sum025 = Math.pow (somme, 1,0/4,0) retourne 0.0 où la somme est à propos de 5.7E9. Pourquoi?

Aidez-nous s'il vous plaît.

Code screenshot

+0

Lorsque je place le point d'arrêt sur une ligne avec Math.Pow, il retourne toujours 0.0, mais lorsque je place le point d'arrêt sur une ligne suivante, il renvoie une valeur correcte. Doit être quelque chose de mal avec le débogage de Consulo. –

+1

Un point d'arrêt sur une ligne donnée se déclenche avant que quelque chose sur cette ligne ne soit exécuté. – Draco18s

+0

Oui, je sais. Après le déplacement à ligne après ligne avec Pow, la fonction renvoie 0.0 –

Répondre

-1

pointe de débogage standard: ce qui se passe lorsque vous essayez sum025 = Math.Pow(sum, 2), puis sum025 = Math.Pow(sum, 2.0) et sum025 = Math.Pow(sum, 0.25)? En d'autres termes, travaillez votre chemin des exposants plus simples aux plus "complexes".

+0

Merci pour la réponse. Cela doit être un problème avec Consulo, car le point d'arrêt sur une ligne avec Math.Pow l'a fait retourner 0.0 n'importe quoi (après avoir appuyé sur F8 pour passer à la ligne suivante). Mais quand j'ai mis un point d'arrêt sur une autre ligne, Math.Pow a renvoyé la valeur correcte. –

+0

Je pense que c'est plus un commentaire qu'une réponse – lockstock