JavaScript는 개발자가 처음으로 당혹스러워 보이는 결과를 접할 때 종종 조롱을 받습니다.

0.1   0.2 == 0.30000000000000004

JavaScript의 숫자 처리에 대한 밈이 널리 퍼져 있으며, 종종 많은 사람들이 이 동작이 JavaScript의 고유한 동작이라고 믿게 만듭니다.

그러나 이 특이한 점은 JavaScript에만 국한되지 않습니다. 이는 대부분의 프로그래밍 언어가 부동 소수점 산술을 처리하는 방식의 결과입니다.

예를 들어 비슷한 결과를 생성하는 Java 및 Go의 코드 조각은 다음과 같습니다.

컴퓨터는 기본적으로 정수만 저장할 수 있습니다. 그들은 분수를 이해하지 못합니다. (어떻게 될까요? 컴퓨터가 연산을 수행할 수 있는 유일한 방법은 일부 조명을 켜거나 끄는 것입니다. 조명은 켜거나 끌 수 있습니다. "절반"은 켜질 수 없습니다!) 부동 소수점 숫자를 나타내는 방법이 필요합니다. . 이 표현은 완벽하게 정확하지 않기 때문에 0.1 0.2는 0.3과 같지 않은 경우가 많습니다.

분모가 수 체계 밑의 소인수로 구성된 모든 분수는 깔끔하게 표현될 수 있으며 다른 분수에는 반복 소수가 있습니다. 예를 들어, 10진수 체계에서 1/2, 1/4, 1/5, 1/10과 같은 분수는 각 경우의 분모가 2 또는 5(소인수 10)로 구성되기 때문에 깔끔하게 표현됩니다. . 그러나 1/3, 1/6, 1/7과 같은 분수에는 모두 순환 소수가 있습니다.

마찬가지로 이진법에서는 1/2, 1/4, 1/8과 같은 분수가 깔끔하게 표현되는 반면 다른 모든 분수에는 반복 소수가 있습니다. 순환하는 소수에 대해 연산을 수행하면 컴퓨터의 이진수 표현을 사람이 읽을 수 있는 10진수 표현으로 변환할 때 남은 부분이 남게 됩니다. 이것이 대략적으로 정확한 결과로 이어지는 것입니다.

이제 이 문제가 JavaScript에만 국한되지 않는다는 것을 확인했으므로 이 동작이 발생하는 이유를 이해하기 위해 부동 소수점 숫자가 내부적으로 어떻게 표현되고 처리되는지 살펴보겠습니다.

부동 소수점 숫자가 내부적으로 어떻게 표현되고 처리되는지 이해하려면 먼저 IEEE 754 부동 소수점 표준을 이해해야 합니다.

IEEE 754 표준은 컴퓨터 시스템에서 부동 소수점 수에 대한 산술을 표현하고 수행하기 위해 널리 사용되는 사양입니다. 다양한 컴퓨팅 플랫폼에서 부동 소수점 연산을 사용할 때 일관성을 보장하기 위해 만들어졌습니다. 대부분의 프로그래밍 언어와 하드웨어 구현(CPU, GPU 등)은 이 표준을 준수합니다.

다음은 IEEE 754 형식에서 숫자를 표시하는 방법입니다.

여기서 s는 부호 비트(0은 양수, 1은 음수)이고, M는 가수(숫자의 자릿수 보유)이고 E는 숫자의 스케일을 결정하는 지수입니다.

이 형식에서는 0.1, 0.2 또는 0.3과 같은 숫자를 정확하게 나타낼 수 있는 M 및 E의 정수 값을 찾을 수 없습니다. 가장 가까운 결과를 제공하는 M 및 E 값만 선택할 수 있습니다.

다음은 십진수의 IEEE 754 표기법을 결정하는 데 사용할 수 있는 도구입니다: https://www.h-schmidt.net/FloatConverter/IEEE754.html

IEEE 754 0.25 표기법:

IEEE 754 각각 0.1과 0.2 표기:

0.25의 경우 변환으로 인한 오류가 0인 반면, 0.1과 0.2의 경우에는 0이 아닌 오류가 발생하였으니 참고하시기 바랍니다.

IEEE 754는 부동 소수점 숫자를 표현하기 위해 다음 형식을 정의합니다.

• 단정밀도(32비트): 부호 1비트, 지수 8비트, 가수 23비트

• 이중 정밀도(64비트): 부호 1비트, 지수 11비트, 가수 52비트

단순화를 위해 32비트를 사용하는 단정밀도 형식을 고려해 보겠습니다.

0.1의 32비트 표현은 다음과 같습니다.

0 01111011 10011001100110011001101

여기서 첫 번째 비트는 부호(0은 이 경우 양수를 의미)를 나타내고, 다음 8비트(01111011)는 지수를 나타내고, 마지막 23비트(10011001100110011001101)는 가수를 나타냅니다.

정확한 표현은 아닙니다. ≒ 0.100000001490116119384765625

마찬가지로 0.2의 32비트 표현은 다음과 같습니다:

0 01111100 10011001100110011001101

이 역시 정확한 표현은 아닙니다. ≒ 0.20000000298023223876953125

추가하면 결과는 다음과 같습니다.

0 01111101 11001101010011001100110 

10진수로 표현하면 ≒ 0.30000001192092896입니다.

결론적으로, 0.1 0.2가 0.3을 산출하지 못하는 당혹스러워 보이는 결과는 JavaScript에만 국한된 예외가 아니라 프로그래밍 언어 전반에 걸쳐 부동 소수점 연산의 한계로 인한 결과입니다. 이 동작의 근본 원인은 숫자의 이진 표현에 있으며, 이로 인해 특정 분수를 처리할 때 본질적으로 정밀도 오류가 발생합니다.