교수님 고생많으십니다. 바쁘실텐데 질문 하나 여쭙겠습니다. 강의19:49구간에서&nbsp; 자료형이 float인 변수 f를 setprecision(9) 로 출력하였을 때 왜 오차가 나오는지 궁금합니다. 각 자료형마다 컴퓨터 내부적인 계산방법이 다르기 따문에 오차없이 표현할수있는 숫자가 다른건가요?&nbsp;
감사합니다

안녕하세요? floating number는 강의의 앞부분에서 설명하는 부분때문에 정확도에 한계가 있습니다. f에 어떻게 저장될까에 관해서 고민해보시는게 도움이 될 것 같습니다.

인프런 커뮤니티 질문&답변

유효숫자개수