• 카테고리

    질문 & 답변
  • 세부 분야

    프로그래밍 언어

  • 해결 여부

    미해결

2:56

22.02.15 17:27 작성 조회수 178

0

2분 50초의 예시에서
f=1.123;
f=1.25;
두 표현식 중 위의 표현식만 경고가 뜨는 이유를 선생님께서 0.25를 컴퓨터가 더 정밀하게 표현이 가능한 반면 1.123은 float로는 한계가 있기때문에 경고가 뜬다고 말씀하셨는데요
앞에서도 비슷한 내용을 배우긴 배웠는데 제기억으론 그때는 부동소수점 표현 방식의 한계로 기억하네요 , 원리가 같다고 보면 되나요?
 
부동 소수점은 컴퓨터는 2진수로 변환을 하기 때문에 1/2, 1/4 등은 표현이 쉽지만 그 이외의 숫자들은 변질된다(?)고 배웠던 것 같은데요
같은 원리로 float는 double에 비해 그 메모리가 더 작고 더 작기 때문에 수를 정확하게 표현하기 어렵다고 생각하면 될까요??
 

답변 1

답변을 작성해보세요.

2

강민철님의 프로필

강민철

2022.02.15

네 그렇습니다 :)