inflearn logo
강의

Course

Instructor

[Side Project After Work] Big Data Analysis Certification Practical Exam (Type 1, 2, 3)

이상치 전처리 작업

3

Jeongman

2 asked

0

안녕하세요 강사님
다름아니라 2과목 중 데이터 전처리에서 이상치 관련 질문있습니다.

제가 강의를 듣었을 때는 이상치를 데이터의 현실적 한계성으로 판단하신거로 이해하였습니다.
ex( age 컬럼은 음수가 될 수 없다.)

제가 예전에 학교에서는 이상치를 quantile을 통해 IQR값을 추출하고 그 추출한 값을 바탕으로 이상치를 판단했었던 기억이 있습니다. 그렇기에 빅데이터분석기사에서 이상치 값을 판단할 때, IQR로 이상치를 판단 또한 하는게 맞을까요? 아니면 이 과정까지는 필요가 없을까요?

python 머신러닝 빅데이터 pandas 빅데이터분석기사

Answer 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다. Jeongman님 질문 감사드립니다.

이상치 처리 방법은 데이터 분석에서 중요한 단계 중 하나입니다. 데이터의 품질에 따라 분석 결과에 큰 영향을 미칠 수 있기 때문에, 적절한 이상치 탐지 및 처리는 필수적입니다. 하지만, 이상치를 어떻게 처리할 것인지는 문제의 특성과 데이터의 종류에 따라 달라질 수 있습니다.

IQR을 통한 이상치 탐지

  • IQR(Interquartile Range): 데이터의 중간 50%를 나타내는 범위입니다. Q1(1사분위수)와 Q3(3사분위수) 사이의 간격으로, IQR 값 외부에 위치한 데이터는 일반적으로 이상치로 간주됩니다. 일반적인 규칙은 데이터가 Q1 - 1.5 * IQR보다 작거나, Q3 + 1.5 * IQR보다 클 경우 이상치로 판단하는 것입니다.

  • 이점: IQR은 데이터가 특정 분포를 따르지 않아도 사용할 수 있다는 장점이 있으며, 특히 극단값에 강건한 방식입니다.

빅데이터 분석기사에서의 이상치 처리

  1. 현실적 한계와 도메인 지식:

    • 예를 들어, age 컬럼의 음수 값은 실질적으로 존재할 수 없으므로 이상치로 처리하는 것이 합리적입니다.
    • 도메인 전문가의 지식을 통해 어떤 값이 합리적이지 않은지를 판단하는 것도 중요합니다.
  2. 시험에서는…:

    • IQR을 통해 데이터를 정제하는 것이 시험 준비 과정에서 유용할 수 있지만, 과도한 데이터 삭제나 수정은 피하는 것이 좋습니다. 시험에서는 제공된 데이터로 최대한의 정보를 얻어내는 것이 중요하기 때문입니다.
    • 작업형 문제에서는 데이터의 전반적 패턴을 큰 틀에서 유지하면서도 이상치를 적절히 다루는 것이 권장됩니다.

아래는 이상치 처리 방법과 관련된 유사한 질문들이 있으니 참고하시면 도움이 될 것입니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

평가결과값 문의

0

12

2

시계열 데이터 날짜와 시간 format

0

23

2

평가지표 F1 스코어 질문드립니다.

0

18

2

작업형 2 기출7회분에서

0

34

2

작업형2 모의문제1 (30강)

0

30

2

수강 기간 연장 문의 드립니다.

0

38

2

수강 계획과 관련해 문의 드립니다.

0

27

2

작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?

0

49

2

작업형 1 -연습문제 4-6

0

37

2

작업형 1 유형 부분

0

42

2

작업형 1 (삭제예정, 구 버전)

0

51

2

수강기간 연장 문의드립니다.

0

37

2

2유형 레이블 인코딩 VS 원핫 인코딩

0

37

3

수강기간 연장 문의드립니다.

0

44

2

인덱스 슬라이싱

0

36

2

질문 드립니다.

0

50

2

강의 내용 관련 질문드립니다~

0

46

2

수강 연장 문의

0

63

2

강의자료 일괄 다운로드

0

61

2

수강기간 연장 문의드립니다

0

48

2

list 문제 질문드립니다~

0

38

2

빅분기 실기 12회 재도전

0

63

2

강의 기간 연장 가능여부 검토 요청건

0

51

2

수강기간 연장 문의 드립니다

0

46

2