inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

2회 기출유형(작업형2)

2유형 데이터 전처리 부분 도와주세요!

해결된 질문

84

남주현

작성한 질문수 2

0

안녕하세요. X_train, y_train을 합치고 난 다음 어떻게 하는지 모르겠습니다,,

df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1)

print(df.head(1))

 

print(df.shape, X_test.shape)

target = df.pop('Reached.on.Time_Y.N')

df = pd.get_dummies(df)

X_test = pd.get_dummies(X_test)

print(df.shape, X_test.shape)

 

이렇게 합치고 원핫인코딩하는게 맞나요?

또 값이 아래와 같이 나오는데, 전보다 이후의 shape가 더 크게 나오는게 맞는지 궁금합니다!

(8799, 12) (2200, 11) (8799, 20) (2200, 20)

--------------

q2.

roc_auc = roc_auc_score(y_val, pred[:,1])

roc_auc구할 때만 pred[:,1]을 적나요? 다른 건 pred만 적는지 궁금합니다!

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

  1. 코드가 특정 부분만 잘못 된 것이 아니라 많이 잘못되어 있어요

아래쪽 꿀팁 섹션에서 아래 두 영상을 살펴주세요

  • 합쳐서 인코딩 하는 영상: 80. 인코딩 할 때 에러가 난다면?

  • 작업형2 유형: 84. 기출(작업형2) 한 가지 방법으로 풀기

 

  1. 네 맞습니다.
    예외도 있긴한데 매우 드문 케이스 입니다. (두번째 컬럼이 양성(1)이 아닌 문자의 경우 문제에서 원하는 컬럼을 찾아야 함)

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 남주현님께서 데이터 전처리와 관련된 질문을 두 가지 주셨는데요, 하나씩 살펴보도록 하겠습니다.

Q1. 데이터 병합 후의 전처리 및 Shape 변화에 대한 질문

  1. 데이터 결합 및 원핫인코딩:
    • df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1) 은 학습 데이터와 타겟 데이터를 하나의 데이터프레임으로 결합하는 과정입니다. 이 과정은 학습 전 데이터 전처리에서 자주 사용됩니다.
    • 이후 pd.get_dummies(df) 를 통해 범주형 데이터를 원핫인코딩으로 변환하고 있습니다. 이 과정에서 새로운 더미 컬럼이 생기기 때문에 컬럼의 개수가 증가할 수 있고, 실제로 shape이 전보다 큰 것이 일반적입니다.
    • X_test 역시 같은 방식으로 더미 변환을 실시하여, 학습 데이터와 테스트 데이터가 동일한 속성 공간을 가지도록 해야합니다. 따라서, dfX_test 가 동일한 컬럼 개수로 변환되는 것이 맞습니다.

관련된 내용을 더 알고 싶다면, 다음 참고 게시물을 확인해 보세요:
- 데이터 전처리와 원핫인코딩의 기본 개념 정리

Q2. ROC AUC 점수 계산 시 슬라이싱 여부

  1. ROC AUC 계산 시 슬라이싱:
    • roc_auc = roc_auc_score(y_val, pred[:,1]) 는 일반적으로 이진 분류에서 ROC AUC score를 구할 때 사용합니다. 여기서 pred[:,1] 은 양성 클래스의 예측 확률을 의미합니다. 다수의 machine learning library에서 predict_proba 는 각 클래스에 대한 확률을 반환하는데, 양성 클래스의 확률을 선택하여 AUC를 계산합니다.
    • 반면, predpredict_proba 결과를 가공 없이 사용하는 경우인데, 보통은 [:,1] 만을 사용하여 양성 클래스의 확률을 고려합니다.

ROC AUC와 관련해 더 많은 정보와 다른 사용자들의 질문을 확인해 보세요:
- ROC AUC 계산에 대한 심화 질문과 답변

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

11 기출문제 ipynb파일

0

2

1

작업형 3 유형

0

7

2

11회 기출 유형(작업형1) 2번 정답

0

14

2

f1 score 질문

0

13

2

10회 작업형 2 인코딩 질의

0

9

2

53번 강의에서 갑자기 수업노트가 없어졌습니다.

0

17

2

28:19 roc_auc이유

0

17

2

수강연장문의

0

18

2

전체적인 머신러닝 순서

0

16

2

빅분기 실기 유형2질문

0

18

1

ID 전처리 이유

0

29

2

데이터제공

0

25

2

예시문제 작업형3 꼬리질문2번

0

16

1

데이터 개수를 구할 때, len과 value_counts 차이

0

20

2

작업형 2 제출방

0

20

2

인코딩 스케일링 순서

0

21

2

실제 시험에서도 공식을 문제에서 주는지

0

21

2

수강 연장 문의

0

19

2

작업형2 정리한 내용 확인 부탁드립니다 ㅜㅜ

0

22

1

14강 "" 사용 관련 질문

0

22

2

캐글 제출 점수

0

28

2

기출 마무리 방법

0

51

2

빅이시 작업형2 기초 - 케이스 1~3 관련 문의

0

40

6

데이터프레임 슬라이싱 인덱싱 질문2

0

29

2