inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

데이터 전처리1 (결측치, 이상치)

작업형2 머신러닝 문제풀이 중 test 데이터 에러 문의

해결된 질문

50

scmasterpark

작성한 질문수 2

0

안녕하세요

 

'작업형2 문제

제공된 데이터는 성인 인구조사 소득 데이터이다. 제공된 학습용 데이터(train.csv)를 이용하여 소득을 예측하는 모델을 개발하고, 개발한 모델에 기반하여 평가용 데이터(test.csv)에 적용하여 얻은 소득 예측 결과를 아래 [제출 형식] 에 따라 CSV 파일로 생성하는 코드를 제출하시오.' 문제를 강의들으며 열심히 손으로 쓰고 실행하던 중

이상처 처리 중 아래의 코드 실행하니

cond = test['age']<=0
test[cond]

처음에 test.describe()에서 없던 age에서 마이너스값이 나옵니다. 그래서 하나하나 어디서 문제인가 다시 실행을 해보니 (한 코드 실행마다 test.describe() 실행해보며 체크) 결측치 채우기 중 갑자기 test 데이터에서 마이너스가 뜹니다..왜 그런걸까요ㅠ

 

감사합니다.

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

cond = test['age']<=0

-> 의 결과는 음수는 True, 양수는 False입니다.

따라서

test[cond]

를 적용하면 음수만 남는 것이 맞아요

 

데이터를 다시 불러와 작업해 주세요

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. scmasterpark님의 질문에 답변 드리겠습니다.

데이터 전처리 과정 중에, test 데이터 프레임에서 이상치에 해당하는 age 컬럼에 음수 값이 발생한 것 같습니다. 이는 결측치 처리 과정에서 의도치 않게 음수 값이 삽입되었을 가능성이 있습니다. 흔히 일어나는 몇 가지 원인을 살펴보겠습니다:

  1. 결측치 대체 과정에서의 오류: 결측치를 대체할 때, 잘못된 연산이나 변환 때문에 음수가 발생할 수 있습니다. 예를 들어, 평균값이나 중위수로 결측치를 대체할 때 데이터 스케일이나 값 설정이 잘못된 경우입니다.

  2. 데이터 병합 또는 인덱싱 오류: 데이터를 다른 데이터프레임과 병합하거나 인덱싱할 때 잘못된 기준이 설정되어 음수 값이 대입되는 경우가 있을 수 있습니다. 결측치 처리 후의 데이터프레임 크기가 이전과 달라졌는지를 확인해 보시기 바랍니다.

  3. 데이터 타입 또는 포맷 전환 문제: 특정 컬럼에서 형변환을 할 때, 예상과 다르게 잘못 변환되면서 음수가 발생할 수 있습니다.

이를 확인하고 해결하기 위해 다음과 같이 접근할 수 있습니다:

  • 결측치 처리를 담당하는 코드 부분을 면밀히 검토하여 논리적인 오류가 없는지 확인합니다. 예를 들어, 결측치 처리 시 사용한 방법(평균, 중앙값, 최빈값 등)이 적절한지 확인하세요.
  • 처리 과정에서의 출력값을 중간중간 확인하여 어느 단계에서 잘못된 값이 주입되었는지를 추적합니다.

본 문제와 유사한 경우를 다룬 기존 게시글이 있어 추천드립니다. 동일한 문제에 대해 다른 학습자가 해결한 사례가 담긴 게시글입니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.

현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

수강연장요청 문의

0

11

1

아무래도 다음 시험 연장은 어렵겠죠?

0

56

2

빅분기 12회 결과 관련 문의

0

78

1

책이랑 강의랑 순서나 예제가 다른것 같네요

0

65

2

수강연장 문의

0

67

2

재검토 요청 방법 좀 알려주셔요...-.-;;

0

93

2

12회 실기 질문(작업형 2)

0

79

2

뒤로가기 버튼 같은 것이 있나요?

0

53

1

강의 연장 문의

0

78

2

출력값 질문

0

57

2

수업노트가 어디에 있나요?

0

49

1

실기시험 제출관련

0

211

3

6.20 작업형 2 과적합

0

209

3

코딩팡 장업형2 베이스 라인 인코딩 종류 질문

0

69

2

로지스틱회귀, 회귀

0

59

2

회귀 문제를 풀때 질문입니다.

0

66

1

불균형 처리 후 성능이 더 낮아졌다면,

0

76

2

실기 체험 제2유형 에러 문의

0

76

1

LIGHTGBM 으로 하면 pred값이 소수점 6자리까지 나오는게 맞나요

0

66

2

3번문제 등분산 가정

0

58

2

작업형3 target 형 변환 질문

0

46

2

[작업형1] 연습문제 섹션1 ~ 10 의 section4

0

65

3

원핫인코딩과 레이블 인코딩에서 concat

0

70

2

제2유형 질문입니다.

0

58

2