Вопрос: подводные камни использования == для сравнения чисел с плавающей запятой в Java
Несмотря на его присутствие в качестве оператора равенства для чисел с плавающей запятой в Java , == имеет ограничения при сравнении чисел с плавающей запятой, о чем свидетельствуют предупреждения статического анализа, такие как «JAVA0078 Значения с плавающей запятой по сравнению с ==".
Ответ: проблема точности
Числа с плавающей запятой хранятся как приближения, и во время операций могут возникать ошибки округления. Следовательно, использование == для сравнения двух чисел с плавающей запятой может привести к ложноотрицательным или положительным результатам.
Правильный подход: запас допуска
Правильный подход к сравнению чисел с плавающей запятой на предмет «равенства» включает проверку, меньше ли абсолютная разница между ними, чем заранее определенное значение допуска. Это гарантирует, что сравнение учитывает ошибки округления и соответствует заданной точности:
if(Math.abs(sectionID - currentSectionID)Выбор значения Epsilon
Выбор подходящего значения эпсилон зависит от желаемой точности. Для точных сравнений используются меньшие значения эпсилон, тогда как большие значения эпсилон допускают более широкую погрешность.
Отказ от ответственности: Все предоставленные ресурсы частично взяты из Интернета. В случае нарушения ваших авторских прав или других прав и интересов, пожалуйста, объясните подробные причины и предоставьте доказательства авторских прав или прав и интересов, а затем отправьте их по электронной почте: [email protected]. Мы сделаем это за вас как можно скорее.
Copyright© 2022 湘ICP备2022001581号-3