systèmes d'acquisition de données

Question

ce que l'on entend par la résolution de l'instrument et la précision et la façon dont ils sont calculés

Answer 1

La résolution détermine si votre instrument peut mesurer une différence entre une longueur de 19,3 mm et une longueur de 19,4 mm (cet exemple, il faudrait une résolution de au moins 1mm). La précision détermine la distance entre la valeur fournie par l'instrument et la valeur réelle, telle qu'une longueur de 19,3 mm observée entre 19,1 mm et 19,5 mm (cet exemple serait une précision de 0,2 mm). Il vaudrait mieux, bien sûr, lire la documentation de votre instrument (ou les exigences de votre programme) pour déterminer quelles conventions ils utilisent pour représenter et calculer la résolution et la précision.