inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

예시문제 작업형2(ver. 2025)

데이터 이상치 파악

해결된 질문

99

gkxncu

작성한 질문수 1

0

train과 test 데이터 전처리 시, 두 데이터 모두에서 '총구매액' 과 '최대구매액'이 음수이길래 이상치인줄 알고 전처리에 고민을 좀 했습니다.

고민하다보니 전액 환불한 경우에는 논리적으로 음수가 맞더라고요. 그래서 별도의 이상치 처리는 안 했습니다.

 

다만, 제가 궁금한점은

  1. 실제 시험에서 이상치가 나왔을 때 대응 방법 (예를 들어, 이상치가 아닌 데이터만 살리는 등)

     

  2. 이 문제처럼 test데이터에서 이상치가 나올 가능성이 있는지와 대응방법 (test데이터의 행은 삭제해서는 안 되는 것으로 알고 있습니다.)

     

위 두가지가 궁금합니다.

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

안녕하세요! 데이터를 자세히 살펴보셨네요

1

이상치는 도메인 지식이 없으면 파악하기 어렵고,

또 시각화가 안되는 시험환경에서는 더더욱 파악하기 어려워

출제가능성이 매우 낮아요

놔두시죠! 이유가 있는 데이터일 수도 있습니다.

 

2

놔두시죠! 주어진 문제로는 이상치라 파악하기 어렵습니다.

 

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. gkxncu님 질문 감사드립니다.

빅데이터 분석 과정에서 이상치는 데이터의 패턴을 왜곡하고, 예측 모델의 성능에 부정적인 영향을 미칠 수 있습니다. 특히 총구매액이나 최대구매액과 같은 변수에서 음수가 발생하는 경우, 이 데이터가 실제로 환불 등의 이유로 발생할 수 있는 값을 반영한 것인지 검토해봐야 합니다.

1. 실제 시험에서 이상치에 대한 대응 방법

  • 정확한 이해: 먼저, 데이터 분석을 진행하기 전에 해당 도메인에 대해 충분한 이해를 갖추는 것이 중요합니다. 어떤 값이 왜 발생했는지를 이해하면, 이를 이상치로 처리할지 여부를 결정하는데 도움이 됩니다.
  • 이상치 식별 및 처리: 이상치를 식별한 후에는 다양한 방법으로 처리할 수 있습니다. 예를 들어 이상치 제거 또는 대체, 스케일링 방법을 통해 이상치의 영향을 줄일 수 있습니다. 일반적인 방법으로는 IQR(Interquartile Range) 기법을 사용하거나, 비즈니스 로직에 따른 임계값 설정 등이 있습니다.
  • 모델 평가 기준 설정: 이상치를 제거하거나 보정한 후, 모델의 성능을 비교하여 최종적인 처리 방식의 유효성을 검증합니다.

2. 테스트 데이터에서의 이상치 및 대응 방법

  • 테스트 데이터 이상치 가능성 검토: 테스트 데이터에서의 이상치는 대개 알고리즘의 일반화 성능을 평가하는 과정에서 중요한 요소로 작용합니다. 하지만, 일반적으로 테스트 데이터셋에서는 행 삭제를 지양하는 것이 좋습니다.
  • 조정 없이 예측 진행: 이상치가 모델의 예측 성능에 지장을 줄 것으로 판단되면, 훈련 데이터에서와 동일한 이상치 처리 기법(예: 대체, 보정)을 적용할 수 있습니다.
  • 결과 해석 시 주의 필요: 예측 결과를 해석할 때, 이상치가 모델의 예측에 얼마나 영향을 미치는지 판단하고, 필요에 따라 결과 해석에 주의해야 합니다.

아래 유사한 질문 답변을 참고하시면 도움이 될 것 같습니다:

이 게시물에서는 이상치와 결측치에 대한 다양한 전처리 방법과 실제 적용 예시에 대해 다루고 있습니다. 이상치 처리의 방식과 모델 성능 평가를 통해 최적의 데이터 전처리 방법을 선택하는 것이 중요합니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

수업노트가 어디에 있나요?

0

15

1

실기시험 제출관련

0

147

2

6.20 작업형 2 과적합

0

156

3

코딩팡 장업형2 베이스 라인 인코딩 종류 질문

0

48

2

로지스틱회귀, 회귀

0

47

2

회귀 문제를 풀때 질문입니다.

0

54

1

불균형 처리 후 성능이 더 낮아졌다면,

0

61

2

실기 체험 제2유형 에러 문의

0

61

1

LIGHTGBM 으로 하면 pred값이 소수점 6자리까지 나오는게 맞나요

0

49

2

3번문제 등분산 가정

0

47

2

작업형3 target 형 변환 질문

0

34

2

[작업형1] 연습문제 섹션1 ~ 10 의 section4

0

36

3

원핫인코딩과 레이블 인코딩에서 concat

0

58

2

제2유형 질문입니다.

0

46

2

C()

0

44

2

작업형 2에서 strafity 적용 유무

0

51

2

수강 기간 연장 가능 여부 문의드립니다.

0

60

1

ols

0

43

2

2유형 작성관련 질문(일반 심화)

0

39

2

2유형 작성관련 질문

0

41

2

2유형 object컬럼 개수 다르면

0

48

2

코딩팡질문이요ㅠㅠ

0

45

2

관찰값과 기대값의 개념이 헷갈립니다.

0

25

2

작업형2 ID 컬럼 삭제 질문

0

45

2