explicação detalhada do problema de precisão de multiplicação de precisão dupla em .net
Em C#, o resultado da expressão dupla i = 10 * 0,69;
é que i
recebe um valor de 6.89999999999999999999999999999999999999995 Em vez de não Isso levanta a questão: existe um erro na multiplicação de dupla precisão no .NET?
representação binária e operação de ponto flutuante
]Para entender esse comportamento, você deve ter uma compreensão profunda das sutilezas das representações binárias e operações de ponto flutuante. Os formatos de ponto flutuante representam aproximadamente números reais como valores binários finitos, que podem levar a limitações de precisão.
O 0,69 aparentemente simples não pode ser representado com precisão em binário. Requer um loop infinito de números binários. A representação binária armazenada no tipo de dados duplo
é um valor aproximado de 0,69.
Constantes otimizados e armazenados pelo compilador
]No trecho de código fornecido, o compilador otimiza a expressão executando multiplicação e armazenando o resultado como uma constante no executável. Faz isso porque esses valores são conhecidos em tempo de compilação. O valor armazenado é uma aproximação de ponto flutuante de 6,9, que é um pouco menor que o valor real.
soluções e tipos de dados alternativos
] para resolver esse problema e obter resultados mais precisos, o tipo de dados decimal
pode ser usado, projetado para representar valores decimais não repetitivos com maior precisão. A expressão decimal i = 10m * 0,69m;
produzirá um resultado de 6,9m.
Isenção de responsabilidade: Todos os recursos fornecidos são parcialmente provenientes da Internet. Se houver qualquer violação de seus direitos autorais ou outros direitos e interesses, explique os motivos detalhados e forneça prova de direitos autorais ou direitos e interesses e envie-a para o e-mail: [email protected]. Nós cuidaremos disso para você o mais rápido possível.
Copyright© 2022 湘ICP备2022001581号-3