• 카테고리

    질문 & 답변

  • 세부 분야

    프로그래밍 언어

  • 해결 여부

    미해결

유효숫자개수

20.10.09 22:56 작성 조회수 149

0

교수님 고생많으십니다. 바쁘실텐데 질문 하나 여쭙겠습니다. 강의19:49구간에서  자료형이 float인 변수 f를 setprecision(9) 로 출력하였을 때 왜 오차가 나오는지 궁금합니다. 각 자료형마다 컴퓨터 내부적인 계산방법이 다르기 따문에 오차없이 표현할수있는 숫자가 다른건가요? 

감사합니다

course-thumbnail

홍정모의 따라하며 배우는 C++

2.5 부동소수점수 floating point numbers

강의실 바로가기

답변 1

답변을 작성해보세요.

0

Hello Yeo님의 프로필

Hello Yeo

2020.10.10

안녕하세요?
floating number는 강의의 앞부분에서 설명하는 부분때문에 정확도에 한계가 있습니다.
f에 어떻게 저장될까에 관해서 고민해보시는게 도움이 될 것 같습니다.

이 글과 비슷한 Q&A