• 카테고리

    질문 & 답변
  • 세부 분야

    프로그래밍 언어

  • 해결 여부

    해결됨

0.1F + 0.1F 에서 오차가 나는 이유

24.04.08 14:33 작성 조회수 80

0

부동소수점 오차 관련하여 질문이 있습니다.

부동소수점 방식에서 순환소수를 표현할 때는 오차가 난다는 것을 이해하였습니다.

하지만 0.1은 순환소수가 아니어서 부동소수점 방식으로도 정확하게 표현할 수 있는데, 강의에서처럼 오차가 나는 이유가 무엇인가요?

답변 1

답변을 작성해보세요.

1

컴퓨터의 구조가 그렇기 때문입니다. 컴퓨터의 CPU가 부동소수점을 표현하는 방법은 IEEE 754 표준에 근거합니다. 이 때문에 부동소수점 오차 문제는 모든 프로그래밍 언어에서 공통으로 발생하는 문제라 할 수 있습니다. 이 IEEE 754에 대한 내용은 그것만 설명하더라도 상당한 시간이 필요합니다. 댓글로 간단히 답변을 드리기가 어려우므로 관련 내용을 찾아보실 것을 권장드립니다. 감사합니다. 😄