3.11 강의에 대한 질문 드립니다.

부동소수점 형태로 저장하면 

float로 저장하는 경우 4바이트 겠죠?

근데 컴퓨터에 저장될때 2진 소수로 바뀌죠? 총 32 비트겠죠?

그럼 1비트는 sign에쓰고 8비트는 지수에 쓰고 나머지 23비트를 가수에쓰겠죠?

23비트를 쓴단 말은 가수 첫 비트가 2^-1 부터 시작하니까 2^-23 까지 쓴단 말이겠죠?

그럼 오차는 어디서부터 발생할까요?

2^-24번째 비트부터 생겨나겠죠?

그럼 '최대'오차가 얼마일까요? 2^-24 X 1 + 2^-25 X 1 + 2^-26 X 1 + ... 이거겠죠?

이거 수능공부할때 많이 봤죠? 무한등비급수의 합이죠?

다 더하면 얼마에요? 2^-23 이죠?

2^-23 은 10진수로 0.0000001192 죠?

그래서 float의 정밀도가 7자리입니다(소수점이하 6자리)

쭉 따라 읽으시면 이해가 되실겁니다 :)

네 맞습니다. 정밀도가 소수점 6자리까지라 7자리 부터의 값은 의미가 없긴하지만 반올림되어 6번째 자리에 반영이 됩니다. 

답변 감사합니다.