inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

2회 기출유형(작업형2)

2유형 데이터 전처리 부분 도와주세요!

해결된 질문

82

남주현

작성한 질문수 2

0

안녕하세요. X_train, y_train을 합치고 난 다음 어떻게 하는지 모르겠습니다,,

df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1)

print(df.head(1))

 

print(df.shape, X_test.shape)

target = df.pop('Reached.on.Time_Y.N')

df = pd.get_dummies(df)

X_test = pd.get_dummies(X_test)

print(df.shape, X_test.shape)

 

이렇게 합치고 원핫인코딩하는게 맞나요?

또 값이 아래와 같이 나오는데, 전보다 이후의 shape가 더 크게 나오는게 맞는지 궁금합니다!

(8799, 12) (2200, 11) (8799, 20) (2200, 20)

--------------

q2.

roc_auc = roc_auc_score(y_val, pred[:,1])

roc_auc구할 때만 pred[:,1]을 적나요? 다른 건 pred만 적는지 궁금합니다!

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

  1. 코드가 특정 부분만 잘못 된 것이 아니라 많이 잘못되어 있어요

아래쪽 꿀팁 섹션에서 아래 두 영상을 살펴주세요

  • 합쳐서 인코딩 하는 영상: 80. 인코딩 할 때 에러가 난다면?

  • 작업형2 유형: 84. 기출(작업형2) 한 가지 방법으로 풀기

 

  1. 네 맞습니다.
    예외도 있긴한데 매우 드문 케이스 입니다. (두번째 컬럼이 양성(1)이 아닌 문자의 경우 문제에서 원하는 컬럼을 찾아야 함)

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 남주현님께서 데이터 전처리와 관련된 질문을 두 가지 주셨는데요, 하나씩 살펴보도록 하겠습니다.

Q1. 데이터 병합 후의 전처리 및 Shape 변화에 대한 질문

  1. 데이터 결합 및 원핫인코딩:
    • df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1) 은 학습 데이터와 타겟 데이터를 하나의 데이터프레임으로 결합하는 과정입니다. 이 과정은 학습 전 데이터 전처리에서 자주 사용됩니다.
    • 이후 pd.get_dummies(df) 를 통해 범주형 데이터를 원핫인코딩으로 변환하고 있습니다. 이 과정에서 새로운 더미 컬럼이 생기기 때문에 컬럼의 개수가 증가할 수 있고, 실제로 shape이 전보다 큰 것이 일반적입니다.
    • X_test 역시 같은 방식으로 더미 변환을 실시하여, 학습 데이터와 테스트 데이터가 동일한 속성 공간을 가지도록 해야합니다. 따라서, dfX_test 가 동일한 컬럼 개수로 변환되는 것이 맞습니다.

관련된 내용을 더 알고 싶다면, 다음 참고 게시물을 확인해 보세요:
- 데이터 전처리와 원핫인코딩의 기본 개념 정리

Q2. ROC AUC 점수 계산 시 슬라이싱 여부

  1. ROC AUC 계산 시 슬라이싱:
    • roc_auc = roc_auc_score(y_val, pred[:,1]) 는 일반적으로 이진 분류에서 ROC AUC score를 구할 때 사용합니다. 여기서 pred[:,1] 은 양성 클래스의 예측 확률을 의미합니다. 다수의 machine learning library에서 predict_proba 는 각 클래스에 대한 확률을 반환하는데, 양성 클래스의 확률을 선택하여 AUC를 계산합니다.
    • 반면, predpredict_proba 결과를 가공 없이 사용하는 경우인데, 보통은 [:,1] 만을 사용하여 양성 클래스의 확률을 고려합니다.

ROC AUC와 관련해 더 많은 정보와 다른 사용자들의 질문을 확인해 보세요:
- ROC AUC 계산에 대한 심화 질문과 답변

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

1유형 강의 다 나간 후 어떻게 할까요?

0

13

1

점수차가 많이 나는데 따로 하신게 있으신가요?

0

9

1

작업형1 모의문제 4번에 3)문제 질문

0

19

2

이상치 전처리 작업

0

25

2

평가결과값 문의

0

28

2

시계열 데이터 날짜와 시간 format

0

34

2

평가지표 F1 스코어 질문드립니다.

0

27

2

작업형 2 기출7회분에서

0

38

2

작업형2 모의문제1 (30강)

0

34

2

수강 기간 연장 문의 드립니다.

0

41

2

수강 계획과 관련해 문의 드립니다.

0

30

2

작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?

0

50

2

작업형 1 -연습문제 4-6

0

38

2

작업형 1 유형 부분

0

42

2

작업형 1 (삭제예정, 구 버전)

0

51

2

수강기간 연장 문의드립니다.

0

38

2

2유형 레이블 인코딩 VS 원핫 인코딩

0

37

3

수강기간 연장 문의드립니다.

0

44

2

인덱스 슬라이싱

0

37

2

질문 드립니다.

0

50

2

강의 내용 관련 질문드립니다~

0

46

2

수강 연장 문의

0

63

2

강의자료 일괄 다운로드

0

62

2

수강기간 연장 문의드립니다

0

48

2