이상치 전처리 작업
3
2 asked
안녕하세요 강사님
다름아니라 2과목 중 데이터 전처리에서 이상치 관련 질문있습니다.
제가 강의를 듣었을 때는 이상치를 데이터의 현실적 한계성으로 판단하신거로 이해하였습니다.
ex( age 컬럼은 음수가 될 수 없다.)
제가 예전에 학교에서는 이상치를 quantile을 통해 IQR값을 추출하고 그 추출한 값을 바탕으로 이상치를 판단했었던 기억이 있습니다. 그렇기에 빅데이터분석기사에서 이상치 값을 판단할 때, IQR로 이상치를 판단 또한 하는게 맞을까요? 아니면 이 과정까지는 필요가 없을까요?
Answer 1
0
안녕하세요, 인프런 AI 인턴입니다. Jeongman님 질문 감사드립니다.
이상치 처리 방법은 데이터 분석에서 중요한 단계 중 하나입니다. 데이터의 품질에 따라 분석 결과에 큰 영향을 미칠 수 있기 때문에, 적절한 이상치 탐지 및 처리는 필수적입니다. 하지만, 이상치를 어떻게 처리할 것인지는 문제의 특성과 데이터의 종류에 따라 달라질 수 있습니다.
IQR을 통한 이상치 탐지
IQR(Interquartile Range): 데이터의 중간 50%를 나타내는 범위입니다. Q1(1사분위수)와 Q3(3사분위수) 사이의 간격으로, IQR 값 외부에 위치한 데이터는 일반적으로 이상치로 간주됩니다. 일반적인 규칙은 데이터가 Q1 - 1.5 * IQR보다 작거나, Q3 + 1.5 * IQR보다 클 경우 이상치로 판단하는 것입니다.
이점: IQR은 데이터가 특정 분포를 따르지 않아도 사용할 수 있다는 장점이 있으며, 특히 극단값에 강건한 방식입니다.
빅데이터 분석기사에서의 이상치 처리
현실적 한계와 도메인 지식:
- 예를 들어,
age컬럼의 음수 값은 실질적으로 존재할 수 없으므로 이상치로 처리하는 것이 합리적입니다.
- 도메인 전문가의 지식을 통해 어떤 값이 합리적이지 않은지를 판단하는 것도 중요합니다.
- 예를 들어,
시험에서는…:
- IQR을 통해 데이터를 정제하는 것이 시험 준비 과정에서 유용할 수 있지만, 과도한 데이터 삭제나 수정은 피하는 것이 좋습니다. 시험에서는 제공된 데이터로 최대한의 정보를 얻어내는 것이 중요하기 때문입니다.
- 작업형 문제에서는 데이터의 전반적 패턴을 큰 틀에서 유지하면서도 이상치를 적절히 다루는 것이 권장됩니다.
- IQR을 통해 데이터를 정제하는 것이 시험 준비 과정에서 유용할 수 있지만, 과도한 데이터 삭제나 수정은 피하는 것이 좋습니다. 시험에서는 제공된 데이터로 최대한의 정보를 얻어내는 것이 중요하기 때문입니다.
아래는 이상치 처리 방법과 관련된 유사한 질문들이 있으니 참고하시면 도움이 될 것입니다:
빅데이터 분석기사 실기: 이상치 처리 방법 - 이상치 검출 및 처리 방법에 대한 다양한 의견을 확인할 수 있습니다.
데이터 전처리 예제와 이상치 다루기 - 빅데이터 분석에서의 이상치 처리 전략과 실전 적용 방법을 다루고 있습니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
평가결과값 문의
0
12
2
시계열 데이터 날짜와 시간 format
0
23
2
평가지표 F1 스코어 질문드립니다.
0
18
2
작업형 2 기출7회분에서
0
34
2
작업형2 모의문제1 (30강)
0
30
2
수강 기간 연장 문의 드립니다.
0
38
2
수강 계획과 관련해 문의 드립니다.
0
27
2
작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?
0
49
2
작업형 1 -연습문제 4-6
0
37
2
작업형 1 유형 부분
0
42
2
작업형 1 (삭제예정, 구 버전)
0
51
2
수강기간 연장 문의드립니다.
0
37
2
2유형 레이블 인코딩 VS 원핫 인코딩
0
37
3
수강기간 연장 문의드립니다.
0
44
2
인덱스 슬라이싱
0
36
2
질문 드립니다.
0
50
2
강의 내용 관련 질문드립니다~
0
46
2
수강 연장 문의
0
63
2
강의자료 일괄 다운로드
0
61
2
수강기간 연장 문의드립니다
0
48
2
list 문제 질문드립니다~
0
38
2
빅분기 실기 12회 재도전
0
63
2
강의 기간 연장 가능여부 검토 요청건
0
51
2
수강기간 연장 문의 드립니다
0
46
2

