setprecision 질문입니다.

Question

안녕하세요 교수님 질문이 생겨서 글 남깁니다. double d1(1.0); double d2(0.1 + ...... + 0.1); 을 그냥 cout해서 출력했을때는 둘다 1이 출력되고 setprecision을 설정해서 출력하면 아래값이 0.999999999999989 이런식으로 출력이 되잖아요? 그럼 실제 시스템 작동될때 사용되는 값은 아래값으로 구동이 되는건가요? 강의 잘 보고있습니다! 감사합니다

주원 · Answer

전 교수님은 아니지만,,,아는문제여서 글을남겨요. 4*2도 int, 100도 int여서 정수끼리 나눠주면 정수가 나옵니다. 따라서 (4*2.0) 이렇게나, 100.0 등 한부분이라도 double형으로 바꿔줘야 결과값도 double로 나옵니다.

정지훈 · Answer

안녕하세요 교수님 지난 질문 답변 잘 받았습니다. 이어서 생기는 궁금증은 왜 입력한 값과 다른 작은 오차가 생기는지, 궁금합니다. 그리고 ''' int main() { double x(4 * 2 / 100); // double x = 4 * 2 / 100; cout << std::setprecision(18); cout << x << endl; return 0; } ''' 이런식으로 double을 연산자로 정의하면 왜 출력값이 정수로만 나오는지 궁금합니다 추운날 건강관리 조심하시고 주말 잘 보내세요!

홍정모 · Answer

생각하시는 것이 맞습니다. 잘 모르는 초보들은 오해하고 실수할 가능성이 높은 부분이지요. 컴퓨터에 대해 쉽게 할 수 있는 여러가지 오해 중 한 가지를 잘 넘기신겁니다.