이중 정밀도 및 소수 자릿수 정확도

컴퓨터 프로그래밍에서 배정밀도 데이터 유형은 대략 소수점 이하 15자리의 정밀도를 갖는 것으로 가정되는 경우가 많습니다. 그러나 1.0/7.0과 같은 특정 숫자 표현은 변수 내에서 내부적으로 표현될 때 더 정확해 보입니다. 이 문서에서는 이러한 현상이 발생하는 이유와 정밀도가 소수점 이하 15자리 정도로 설명되는 이유를 살펴보겠습니다.

내부 표현

IEEE double에는 53개의 유효 비트가 있으며 이는 대략 십진수 15.95자리와 같습니다. 반올림을 설명하기 위해 구현에서는 정밀도(DBL_DIG)를 15로 설정합니다. 이는 DBL_DIG에서 암시하는 것보다 거의 추가 십진수 정밀도를 제공합니다.

출력 정밀도

double을 표시할 때, 컴파일러는 일반적으로 정밀도에 따라 값을 반올림합니다. 예를 들어 1.0/7.0은 "%.17g"으로 표시되면 17자리 정확도를 갖습니다. 그러나 "%.64g"를 사용하면 예상되는 15자리 정밀도를 초과하는 유효 숫자가 나타나지 않습니다.

결론

이중 정밀도 숫자에는 약 15.95개의 소수 자릿수를 허용하는 내부 표현이 있습니다. 정밀함. 그러나 반올림으로 인해 표시되는 정밀도는 일반적으로 소수점 이하 15자리로 설정됩니다. 이 설명은 1.0/7.0과 같은 특정 정확한 숫자가 내부적으로 더 높은 정밀도를 갖는 것처럼 보이지만 표시될 때 추정된 15자리 정밀도를 따르는 이유를 명확히 하는 데 도움이 됩니다.