Go division nombre flottant

Question

J'essaie d'obtenir 2,4/0,8 == 3 Go

w:=float64(2.4) 
fmt.Println(math.Floor(w/0.8),math.Floor(2.4/0.8)) 

Il me donne "2 3".

La question est pourquoi math.Floor(w/0.8) ne me donnera pas 3. Est-ce la limite de précision du nombre de flotteur?

Answer 1

La sortie du programme est correcte. La représentation de nombreux nombres réels au format IEEE n'est pas précise. Le premier nombre est en fait (dans la version limitée à 64 bits) inférieur à 3, donc floor renvoie correctement '2'. Le second est calculé au moment de la compilation en utilisant une plus grande précision.

Recommandé reading.

Answer 2

Oui, c'est la limite de précision. float64 est assez précis, mais 2.4 ne peut pas être stocké exactement en binaire. Lorsque les deux nombres sont constants, le calcul est effectué avec une plus grande précision au moment de la compilation, et lorsque le résultat est arrondi à float64, il sort exactement à 3. Mais quand l'un des nombres est une variable, le calcul doit être fait à l'exécution, et il sort à 2.9999999999999996, qui étage tronque à 2.

Answer 3

Bien que cela ne répond pas à la question (pourquoi) J'ai trouvé cette page à la recherche d'une fonction ronde si juste que quelqu'un le trouve utile voici ma propre solution:

func Round(val float64) (float64) { 
     if float64(int(val)) < val { 
      return float64(int(val) + 1) 
     } 
     return val 
    }