• 카테고리

    질문 & 답변
  • 세부 분야

    프로그래밍 언어

  • 해결 여부

    해결됨

부동소수점

24.01.08 13:23 작성 조회수 150

0

 float 형을 예로 들면,

표현 범위가 1.17*10^(-38) 부터라고 되어있는데, 유효 숫자는 소수점 이하 6자리인 이유는 무엇인가요?

답변 1

답변을 작성해보세요.

0

실수값 전체의 표현 범위는 정수부분과 실수 부분 모두를 포함합니다. 표현의 범위가 넓다하더라도 해상도가 낮아 값에 왜곡이 큽니다. 다음 코드 예제의 결과를 확인해보면 값의 왜곡을 쉽게 체감 할 수 있습니다.

imageimage

43억 정도의 값(부호가 없는 정수형의 최댓값을 넘는 수)을 출력 할 경우 정수값 수준에서도 오차가 눈에 보입니다. 참고하시기 바랍니다. 😄