précision à virgule flottante

J'ai un programme écrit en C# et certaines parties écrivent en C/C++ natif. J'utilise des doubles pour calculer certaines valeurs et parfois le résultat est faux en raison d'une trop petite précision. Après quelques recherches, j'ai compris que quelqu'un définissait la précision en virgule flottante sur 24 bits. Mon code fonctionne bien, quand je réinitialise la précision à au moins 53 bits (en utilisant _fpreset ou _controlfp), mais j'ai encore besoin de savoir qui est responsable de la définition de la précision à 24 bits en premier lieu.précision à virgule flottante

Toutes les idées que je pourrais réaliser ceci?

Source

2009-07-29 Andreas Roth

Ceci est dû à l'initialisation par défaut du périphérique Direct3D. Vous pouvez dire à Direct3D de ne pas jouer avec la précision de la FPU en passant le drapeau D3DCREATE_FPU_PRESERVE à CreateDevice. Il existe également un code managé équivalent à ce drapeau (CreateFlags.FpuPreserve) si vous en avez besoin.

Plus d'informations peuvent être trouvées à Direct3D and the FPU.

Source

2009-07-30 07:13:10

Je suggérerais de changer ceci pour être la réponse "bénie". – akauppi

Votre code utilise-t-il DirectX ou XNA? J'ai certainement entendu dire qu'il y avait des problèmes à cause de cela - un code d'initialisation DirectX (peut-être seulement dans l'encapsuleur géré?) Réduit la précision.

Source

2009-07-29 15:22:44

J'utilise DirectX dans mon programme. Pouvez-vous me dire quelle fonction DX réduirait la précision? Ou un lien vers la documentation? –

Je ne l'ai pas utilisé moi-même, donc c'est juste ouï-dire - mais je crois que c'est dans le code d'initialisation pour DirectX. Tout ce qui va mal si vous le changez, je ne sais pas ... –

Oui, vous avez absolument raison. Vous devez spécifier D3DCREATE_FPU_PRESERVE lorsque vous initialisez le périphérique DX. –

Qu'en est-il d'une recherche binaire par partitions dans votre programme et de déterminer quels appels réduisent la précision?

Source

2009-07-29 15:25:06

Je pense que la recherche binaire pourrait être utilisée dans certaines parties, mais cela ne devrait affecter que lorsque les flottants ou les doubles sont utilisés dans les clés de recherche. –

Je pense que vous vous méprenez, Andreas. Il vous suggère de commenter des bribes de code et d'appels existants jusqu'à ce que vous trouviez l'appel qui vous a valu votre précision. Une bonne façon de commencer est de commenter la moitié de votre code. Si cela échoue toujours, c'est dans les appels non commentés. Continuez à le réduire jusqu'à ce que vous soyez à un appel. –

Suivez une valeur dans votre programme pour voir où il perd de sa précision. La recherche binaire signifie commencer à un point à peu près au milieu du flux de données et le réduire à partir de là. – starblue

précision à virgule flottante

Répondre

Questions connexes