[3.11] 4바이트 정수 범위에서 왜 유효숫자가 9개인지 모르겠습니다.

안녕하세요, 답변 도우미 Soobak 입니다.

질문 1) -2,147,483,648에서 -2 자리는 모든 숫자 (-3, -4) 이런 건 안 되니까 정밀도로 보장할 수 없고 나머지는 정밀도로 보장이 된다고 하셨는데 -2 자리는 왜 정밀도로 보장할 수 없다는 건지 뭐가 안 된다는 건지 이해가 되지 않습니다. 그리고 정밀도로 보장한다 안 한다의 개념이 무엇인지 좀 더 명확하게 알고 싶습니다.
: 정밀도를 보장한다는 것은 해당 자료형이 표현할 수 있는 값의 범위 내에서 모든 값을 정확하게 저장하고 연산할 수 있다는 것을 의미합니다.

예를 들어서, 32비트 int 자료형에서, 9자리 정밀도를 보장한다는 것은 최대 9자리 정수를 저장하고 계산할 때 오류나 문제가 없다는 것을 의미합니다.

또한, 32비트 int 자료형이 표현할 수 있는 값의 범위는 -2,147,483,648 부터 2,147,483,647 입니다.
해당 범위의 최대 절대값은 약 2.1 * 10^9 이므로, int 자료형에서 정밀도를 보장할 수 있는 자리수가 9자리인 것입니다.

말씀하신 -2 의 자리를 예시로 들어보면, -3,147,483,648 과 같이 -3 이 오는 경우에는 32비트 int 자료형이 표현할 수 있는 숫자의 범위를 벗어나기 때문에 정밀도를 보장하지 못하게 됩니다.

질문 2) exponent를 저장할 때 음의 지수가 필요 (중략) 위 설명에서 이해 안 되는 점
(1) 컴퓨터가 지수를 저장할 때 왜 음의 지수가 필요한지
: 부동 소수점 표현에서 작은 값을 표현하고 처리하기 위해 필요합니다.

지수가 음수인 경우, 해당 수는 2 의 음수 거듭제곱으로 표현된다는 것을 의미합니다.
한 번 쯤은 직접 계산해보시면 이해가 더 수월하실 것 같습니다.
예를 들어서, 지수가 -3 인 경우, 2^(-3) = 1 / 2^3 = 1 /8 = 0.125 로 표현이 됩니다. 이런 방식으로 매우 작은 수를 효과적으로 표현할 수 있습니다.

(2) 다른 용도라는 게 무엇을 말하는 건지
: 이어지는 강의인 3.12 부동소수점형의 한계 에서 예시들을 접하시게 되는데요, 무한대를 나타내는 INF (Infinity) , 수치적으로 표현할 수 없거나 정의되지 않는 값인 NaN (Not a Number) 등을 표현하기 위한 용도로 사용됩니다.
구체적으로 설명드려보면, 지수 부분이 0 , 1 일 때에 대해서는 다음과 같은 용도로 사용됩니다.

• 지수 값이 0인 경우 :

  i. 가수가 0인 경우 : sign 부호에 따라서 +0 또는 -0 을 표현하는 용도

  ii. 가수가 0이 아닌 경우 : '비정규화된 수,(Denormalized numbers)' 로 매우 작은 부동 소수점 값을 표현할 수 있도록 돕는 용도

• 지수 값이 255인 경우:
  i. 가수가 0인 경우 : sign 부호에 따라서, 양의 무한대 +INF 또는 음의 무한대 -INF 를 나타내는 용도
  ii. 가수가 0이 아닌 경우 : NaN (Not a Number) 을 나타내기 위한 용도.

출처 - IEEE Standard 754 Floating Point Numbers (링크)


(3) 앞에 음의 지수를 나타내는 방법 설명하실 때는 0~255 범위에서 -127을 하니까 -127~128 범위를 가진다고 하셨는데 왜 추가적으로 설명한 부분(모든 bit가 0이거나 1인 경우)에서는 -127~128이 아닌 -126~128의 범위를 가지는지
: 바로 윗 질문에 대한 답변에서 설명드린 것처럼 지수부가 표현할 수 있는 숫자의 범위 내에서 '다른 용도' 로 사용하는 경우가 있기 때문에 범위가 줄어듭니다.