2010-04-18 3 views
0

Je veux générer un graphique avec un grand nombre décimal comme -106.63633167743683 ou 52.132235169410706. Mais chaque fois que je saisis la valeur dans une feuille Excel, cela me donne une valeur comme -106.63633167743600 (car j'ai formaté la cellule avec 15 décimales). Il remplace la valeur des deux derniers chiffres par 0.Avoir un problème avec les virgules décimales dans MS Excel 2007

Quelqu'un peut-il vous aider à ce sujet s'il vous plaît?

Répondre

0
106.63633167743600 

      1 1 
1--.-5----0----5 

numéros Excel sont stockés sous forme de valeurs doubles IEEE (Voir http://support.microsoft.com/kb/78113). Cela signifie que les chiffres ne peuvent avoir que 15 chiffres significatifs de précision. Pour représenter 106.63633167743683 il faut 17 chiffres significatifs, ce qui est trop pour Excel. D'où les 2 derniers chiffres deviennent zéro.

(Excel n'a pas été conçu pour l'arithmétique de haute précision.)

+0

Merci pour la réponse. Pouvez-vous suggérer un outil comme alternative? – Eishita

+0

@Eishita: Doit-on utiliser une feuille de calcul? Ou êtes-vous prêt à écrire un programme simple? – kennytm

+0

J'ai juste besoin de dessiner un graphique de dispersion pour ces grands nombres. Tout générateur de graphes fonctionnera. – Eishita

0

sont les deux numéros dans votre exemple, les deux va être sur le diagramme de dispersion? Je ne peux pas imaginer un écran d'ordinateur assez grand pour les montrer à la fois de toute façon. N'auriez-vous pas besoin de quelque chose qui a 1,5 * 10^17 pixels dans une direction? Mon moniteur, par exemple, a une hauteur de 1050.

Ou si ce sont des exemples de nombres dans différents ensembles de données, et que vous voulez tracer des chiffres comme

-106,63633167743683

-106,63633167743692

où les différences sont dans le 16 chiffre significatif et au-delà, vous pouvez simplement tracer

et obtenir le même effet.

Questions connexes