C++: Problème avec une équation simple?

J'utilise Visual C++ 6.0 sur Windows XP. Mon code est le suivant:C++: Problème avec une équation simple?

# include "stdio.h" 
void main() { 
int m,n; 
double sum=0; 
n=65536; 
sum=1.0/(n*n); 
printf("%.20lf",sum); 
return; 
}

La sortie de mon code est:

1.#INF0000000000000000

Pourquoi puis-je obtenir la réponse MAL? Comment puis-je calculer correctement 1/(65536*65536)? Je m'attends à obtenir 0.00000000023283064365386962890625.

Merci pour votre aide!

Source

2010-11-18 Favorites

Utilisez le code – Kimtho6

Double n'est pas assez précis pour cette équation. Vous avez besoin de quelque chose de plus précis, comme un long long double. –

Il existe un dépassement d'entier. Votre peut simplement jeter int doubler avant multiplier:

sum=1.0/(((double)n)*n);

Source

2010-11-18 13:55:45

Merci pour votre aide. – Favorites

Veuillez vérifier ma réponse comme solution correcte. –

Il semble que la multiplication des deux déversoirs variables int, parce que 65536 * 65536 ne rentre pas dans 32 bits. Essayez d'utiliser long long ou double pour m et n.

Source

2010-11-18 13:56:25

'long long' dopesn't existe sur VC6, IIRC –

Vous n'êtes pas sûr des étoiles doubles ** mais vous devez utiliser le type long ou long long pour contenir des entiers de cette taille.

Source

2010-11-18 13:56:50 Nick

Je crois que les étoiles (' ** ') faisaient partie de la mise en forme de la question originale, les enlevés. –

désolé c'était ma faute, il s'est produit pendant le formatage de l'OP. – stacker

n * n est trop grand pour qu'un entier soit maintenu. faites le double.

Source

2010-11-18 13:57:40 Bourne

En supposant que vous avez des entiers 32 bits n * n entraîne un dépassement de capacité (4294311936). Entier va de

–2,147,483,648 to +2,147,483,647

Vous pouvez essayer de déclarer n comme double n = 65536;

Source

2010-11-18 13:59:15 stacker

Les Nitpickers vous diront qu'il devrait être 'double n = 65536.0;' (le '.0' spécifie qu'il s'agit d'un littéral' 'double'' et non d'un littéral' int'). –

lieu de jeter, vous pouvez simplement faire ceci:

double result = 1.0/n/n;

HTH

Source

2010-11-18 14:20:25

Remplacer somme = 1.0/(n * n); par somme = 1,0/(double) n/(double) n; la raison est un débordement d'entier (32 bits), suivi d'un cast manquant (secondaire).

Source

2010-12-13 07:52:03 uhs

C++: Problème avec une équation simple?

Répondre

Questions connexes