«Если рабочий хочет хорошо выполнять свою работу, он должен сначала заточить свои инструменты» — Конфуций, «Аналитики Конфуция. Лу Лингун»
титульная страница > программирование > Почему не следует использовать == для сравнения чисел с плавающей запятой в Java?

Почему не следует использовать == для сравнения чисел с плавающей запятой в Java?

Опубликовано 21 декабря 2024 г.
Просматривать:146

Why Shouldn't You Use == to Compare Floats in Java?

Вопрос: подводные камни использования == для сравнения чисел с плавающей запятой в Java

Несмотря на его присутствие в качестве оператора равенства для чисел с плавающей запятой в Java , == имеет ограничения при сравнении чисел с плавающей запятой, о чем свидетельствуют предупреждения статического анализа, такие как «JAVA0078 Значения с плавающей запятой по сравнению с ==".

Ответ: проблема точности

Числа с плавающей запятой хранятся как приближения, и во время операций могут возникать ошибки округления. Следовательно, использование == для сравнения двух чисел с плавающей запятой может привести к ложноотрицательным или положительным результатам.

Правильный подход: запас допуска

Правильный подход к сравнению чисел с плавающей запятой на предмет «равенства» включает проверку, меньше ли абсолютная разница между ними, чем заранее определенное значение допуска. Это гарантирует, что сравнение учитывает ошибки округления и соответствует заданной точности:

if(Math.abs(sectionID - currentSectionID) 

Выбор значения Epsilon

Выбор подходящего значения эпсилон зависит от желаемой точности. Для точных сравнений используются меньшие значения эпсилон, тогда как большие значения эпсилон допускают более широкую погрешность.

Последний учебник Более>

Изучайте китайский

Отказ от ответственности: Все предоставленные ресурсы частично взяты из Интернета. В случае нарушения ваших авторских прав или других прав и интересов, пожалуйста, объясните подробные причины и предоставьте доказательства авторских прав или прав и интересов, а затем отправьте их по электронной почте: [email protected]. Мы сделаем это за вас как можно скорее.

Copyright© 2022 湘ICP备2022001581号-3