inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

데이터 전처리1 (결측치, 이상치)

29강 작업2형의 이상치 처리

1

soan Kim

작성한 질문수 4

0

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

soan Kim님, 12회 작업형2의 음수값은 train과 test 양쪽에 모두 존재한다면 이상치라고 단정하기 어렵습니다. 환불 등 도메인 특성으로 인해 발생한 값일 수 있으므로, 특정 컬럼이 양수인 행만 남기도록 train 데이터를 삭제하는 방식은 권장되지 않습니다. 행을 삭제하면 데이터 분포가 달라지고, 랜덤 포레스트나 부스팅 계열 모델을 사용하더라도 반드시 점수가 좋아진다고 보장할 수 없습니다.

특히 test 데이터의 행 개수는 유지해야 하므로, 이상치라고 판단되더라도 test 행을 삭제하는 방식은 사용할 수 없습니다. 문제에서 명확히 이상치라고 제시하지 않았다면 원본을 유지한 베이스라인 모델을 먼저 만들고, 이후 clip 등의 전처리를 적용한 결과와 검증 점수를 비교하는 것이 좋습니다. clip이 적절한지는 음수값의 의미와 전처리 후 검증 성능을 함께 고려해 결정하면 됩니다.

참고할 만한 기존 답변입니다.

  • 예시문제 작업형2 EDA 중 이상치 처리
    train과 test에 음수값이 모두 있을 때는 도메인 특성일 수 있으므로, 바로 삭제하지 말고 베이스라인과 전처리 후 결과를 비교하라는 답변입니다.

  • 작업형2 예시문제 이상치 처리
    음수값이 train과 test에 함께 있다면 이상치로 판단하기 어렵고, 문제에서 이상치라고 명시하지 않았다면 별도 처리하지 않아도 된다는 내용입니다.

  • 예시문제 작업형2(신버전)
    총구매액과 최대구매액의 음수값을 0으로 변경했을 때 점수가 좋아지더라도, 검증 데이터의 분포 때문에 발생한 결과일 수 있으므로 신중하게 비교해야 한다는 답변입니다.
    음수값 관련 이미지

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

수강기간 연장 문의드립니다!

0

11

1

9월에 실기출제기준 개정내역에 신설된부분

0

21

1

작업형2 모의문제2 결과값 관련 문의드립니다.

0

40

2

12회차 시험 실패 후 13회 도전 예정입니다.

0

45

1

random_state 값

0

60

2

강의 연장 문의 드립니다.

0

58

2

강의 연장 문의

0

57

2

오징어게임

0

60

1

object 컬럼이 여러 개인 경우 인코딩 전처리 방법

0

47

2

데이터 전처리 순서 관련

0

59

2

작업형2 모의문제 데이터 불러오기

0

59

2

강의 연장 부탁드립니다!

0

65

2

수강기간 연장 문의드립니다!

0

59

2

2회 기출유형(작업형1) Warning

0

72

2

describe()

0

52

2

수강기간 연장 문의

0

82

2

빅데이터분석기사 실기 인코딩

0

69

2

수강기간 연장문의

0

77

2

수강 기간 연장 문의 드립니다.. 부탁드립니다 ㅠㅠ

0

64

2

작업형2와 3의 목적

0

47

1

기출9회(작업형 1의 2번문제)

0

52

2

수강 기간 연장 문의 드립니다.

0

65

2

수강 연장 문의드립니다

0

88

2

수강 연장 문의드립니다.

0

58

2