C의 부동 소수점 정밀도

C에서 부동 소수점 숫자는 특정 소수 자릿수까지 정확합니다. 그러나 이 정밀도에는 제한이 있어 예상치 못한 결과가 발생할 수 있습니다.

문제 설명

다음 코드 조각을 고려하세요.

double a = 0.3;
std::cout.precision(20);
std::cout 
를 인쇄합니다. 그림과 같이 a는 0.3보다 약간 작지만 50을 곱하면 b는 15.0보다 약간 커집니다. 예상 결과와의 이러한 편차는 부동 소수점 정밀도의 한계로 인해 발생할 수 있습니다.
해결책
올바른 결과를 얻으려면 숫자 유형에 사용 가능한 정밀도보다 정밀도가 높습니다. 다음 수정된 코드 조각은 이 접근 방식을 보여줍니다.
#include 
#include 
int main() {
  double a = 0.3;
  std::cout.precision(std::numeric_limits::digits10);
  std::cout ::digits10);
  std::cout 
이 접근 방식을 사용하면 정밀도가 double 데이터 유형에 사용 가능한 최대값으로 설정됩니다. 루프가 50회 대신 5000회와 같이 훨씬 더 많은 반복 횟수로 실행되면 정밀도 설정에 관계없이 누적된 오류가 결국 눈에 띄게 된다는 점에 유의하는 것이 중요합니다. 이는 부동 소수점 연산의 본질적인 한계입니다.