-
카테고리
-
세부 분야
프로그래밍 언어
-
해결 여부
해결됨
0.1F + 0.1F 에서 오차가 나는 이유
24.04.08 14:33 작성 조회수 80
0
부동소수점 오차 관련하여 질문이 있습니다.
부동소수점 방식에서 순환소수를 표현할 때는 오차가 난다는 것을 이해하였습니다.
하지만 0.1은 순환소수가 아니어서 부동소수점 방식으로도 정확하게 표현할 수 있는데, 강의에서처럼 오차가 나는 이유가 무엇인가요?
답변을 작성해보세요.
1
널널한 개발자
지식공유자2024.04.08
컴퓨터의 구조가 그렇기 때문입니다. 컴퓨터의 CPU가 부동소수점을 표현하는 방법은 IEEE 754 표준에 근거합니다. 이 때문에 부동소수점 오차 문제는 모든 프로그래밍 언어에서 공통으로 발생하는 문제라 할 수 있습니다. 이 IEEE 754에 대한 내용은 그것만 설명하더라도 상당한 시간이 필요합니다. 댓글로 간단히 답변을 드리기가 어려우므로 관련 내용을 찾아보실 것을 권장드립니다. 감사합니다. 😄
답변 1