2유형 데이터 전처리 부분 도와주세요!
안녕하세요. X_train, y_train을 합치고 난 다음 어떻게 하는지 모르겠습니다,,
df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1)
print(df.head(1))
print(df.shape, X_test.shape)
target = df.pop('Reached.on.Time_Y.N')
df = pd.get_dummies(df)
X_test = pd.get_dummies(X_test)
print(df.shape, X_test.shape)
이렇게 합치고 원핫인코딩하는게 맞나요?
또 값이 아래와 같이 나오는데, 전보다 이후의 shape가 더 크게 나오는게 맞는지 궁금합니다!
(8799, 12) (2200, 11) (8799, 20) (2200, 20)
--------------
q2.
roc_auc = roc_auc_score(y_val, pred[:,1])
roc_auc구할 때만 pred[:,1]을 적나요? 다른 건 pred만 적는지 궁금합니다!
답변 2
0
코드가 특정 부분만 잘못 된 것이 아니라 많이 잘못되어 있어요
아래쪽 꿀팁 섹션에서 아래 두 영상을 살펴주세요
합쳐서 인코딩 하는 영상: 80. 인코딩 할 때 에러가 난다면?
작업형2 유형: 84. 기출(작업형2) 한 가지 방법으로 풀기
네 맞습니다.
예외도 있긴한데 매우 드문 케이스 입니다. (두번째 컬럼이 양성(1)이 아닌 문자의 경우 문제에서 원하는 컬럼을 찾아야 함)
0
안녕하세요, 인프런 AI 인턴입니다. 남주현님께서 데이터 전처리와 관련된 질문을 두 가지 주셨는데요, 하나씩 살펴보도록 하겠습니다.
Q1. 데이터 병합 후의 전처리 및 Shape 변화에 대한 질문
- 데이터 결합 및 원핫인코딩:
df = pd.concat([X_train, y_train['Reached.on.Time_Y.N']],axis=1)은 학습 데이터와 타겟 데이터를 하나의 데이터프레임으로 결합하는 과정입니다. 이 과정은 학습 전 데이터 전처리에서 자주 사용됩니다.
- 이후
pd.get_dummies(df)를 통해 범주형 데이터를 원핫인코딩으로 변환하고 있습니다. 이 과정에서 새로운 더미 컬럼이 생기기 때문에 컬럼의 개수가 증가할 수 있고, 실제로 shape이 전보다 큰 것이 일반적입니다.
X_test역시 같은 방식으로 더미 변환을 실시하여, 학습 데이터와 테스트 데이터가 동일한 속성 공간을 가지도록 해야합니다. 따라서,df와X_test가 동일한 컬럼 개수로 변환되는 것이 맞습니다.
관련된 내용을 더 알고 싶다면, 다음 참고 게시물을 확인해 보세요:
- 데이터 전처리와 원핫인코딩의 기본 개념 정리
Q2. ROC AUC 점수 계산 시 슬라이싱 여부
- ROC AUC 계산 시 슬라이싱:
roc_auc = roc_auc_score(y_val, pred[:,1])는 일반적으로 이진 분류에서 ROC AUC score를 구할 때 사용합니다. 여기서pred[:,1]은 양성 클래스의 예측 확률을 의미합니다. 다수의 machine learning library에서predict_proba는 각 클래스에 대한 확률을 반환하는데, 양성 클래스의 확률을 선택하여 AUC를 계산합니다.
- 반면,
pred는predict_proba결과를 가공 없이 사용하는 경우인데, 보통은[:,1]만을 사용하여 양성 클래스의 확률을 고려합니다.
ROC AUC와 관련해 더 많은 정보와 다른 사용자들의 질문을 확인해 보세요:
- ROC AUC 계산에 대한 심화 질문과 답변
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
1유형 강의 다 나간 후 어떻게 할까요?
0
13
1
점수차가 많이 나는데 따로 하신게 있으신가요?
0
9
1
작업형1 모의문제 4번에 3)문제 질문
0
19
2
이상치 전처리 작업
0
25
2
평가결과값 문의
0
28
2
시계열 데이터 날짜와 시간 format
0
34
2
평가지표 F1 스코어 질문드립니다.
0
27
2
작업형 2 기출7회분에서
0
38
2
작업형2 모의문제1 (30강)
0
34
2
수강 기간 연장 문의 드립니다.
0
41
2
수강 계획과 관련해 문의 드립니다.
0
30
2
작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?
0
50
2
작업형 1 -연습문제 4-6
0
38
2
작업형 1 유형 부분
0
42
2
작업형 1 (삭제예정, 구 버전)
0
51
2
수강기간 연장 문의드립니다.
0
38
2
2유형 레이블 인코딩 VS 원핫 인코딩
0
37
3
수강기간 연장 문의드립니다.
0
44
2
인덱스 슬라이싱
0
37
2
질문 드립니다.
0
50
2
강의 내용 관련 질문드립니다~
0
46
2
수강 연장 문의
0
63
2
강의자료 일괄 다운로드
0
62
2
수강기간 연장 문의드립니다
0
48
2





