3.1-6분

안녕하세요, 질문&답변 도우미 Soobak 입니다.

컴퓨터는 내부적으로 2진수를 사용하기 때문에 이를 이용하여 10진수 숫자를 표현하는 방식에 있어서
변수의 자료형에 따라 데이터를 표현하는 방식이 달라지게 됩니다.

이 때, 말씀해주신 표의 '십진수 정밀도' 는 '부동소수점 자료형이 정확하게 표현할 수 있는 십진수 자릿수' 를 의미합니다.
예를 들어, "실수 자료형 float 의 십진수 정밀도 6자리" 라는 표의 내용은,
float 형식의 경우 6자리 십진수 까지 정확하게 표현할 수 있음을 의미합니다.

해당 내용은 강의 3.11 부동소수점형, 그리고 3.12 부동소수점형의 한계 에서 정확도와 정밀도, 그리고 과학적 표기법과 유효 숫자 에 대한 개념과 함께 보다 자세하게 학습하시게 됩니다.