묻고 답해요
158만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
해결됨비전공자를 위한 진짜 입문 올인원 개발 부트캠프
콘솔로그가 두번씩 찍힙니다
버튼을 한 번씩 누를 때마다 콘솔창에 콘솔로그가 2번씩 찍히는데 왜 이런 건가요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
유형2 채점기준 관련
안녕하세요 강사님,오늘 빅분기 6회 실기 시험을 치르고 나왔는데요 (생각보다 어려웠네요 ㅠ) 빅데이터 분석기사 2유형의 0점유형에'예측값 정확도가 평가지표 최저 구간 미만 : 0점' 이라고 적혀있는데,'평가지표 최저 구간'이라는 의미가 어떻게 되는지 알 수 있을까요? 분류 문제가 나와서 처음에는 RandomForestClassifier로 예측했고,요구하는 평가지표(f1-macro)로 돌려봤더니 train 데이터에서 분리(train_test_split)한validation 데이터 0.9이상이 나와서 과적합인 것 같아서강사님께서 얼마전 알려주신 lightgbm으로 바꾼 다음에 하이퍼파라미터 수정해보니0.8정도 나와서 분류 예측 후 제출하였습니다. 그런데 빅데이터 관련 카페 글 보니, 대부분 랜포로 돌린다음에 0.9이상인 상태에서분류 후 제출했다고 하네요 그러면서 빅데이터 카페에 어떤 분이 train 데이터에서 분리한 train 과 validation 데이터모두 평가지표가 높게 나오면 과적합이 아니라는 얘기를 들었습니다...ㅠ 평가지표 최저 구간이라는 의미가 각 모델의 하이퍼파라미터를 건드리지 않고그냥 모델을 예측했을 때의 평가지표 일까요? (예를 들면 LGBMClassifier의 하이퍼파라미터 없는 상태에서 0.9면 기준이 0.9가 되는건지...)이게 맞다면 저는 0점이겠네요..ㅠ, lightgbm도 아무런 하이퍼파라미터 없이는 0.9이상이였거든요.. 무튼, 덕분에 많은 것들 배울 수 있어서 감사했습니다! +글 작성후 추가구글 Bard 한테 물어봤더니... train, validation 데이터 모두 0.9 이상 인 경우 과적합으로 볼 수 있냐는 질문을 했더니 아래와 같이 답변이 나오기는 했네요..<답변>네, train 데이터와 validation 데이터 모두 해당 모델에 대한 평가지표가 0.9인 경우에도 과적합이 발생할 가능성이 있습니다. 과적합은 모델의 복잡성이 너무 높아서 train 데이터에만 적응하는 상태를 말합니다. train 데이터와 validation 데이터 모두 해당 모델에 대한 평가지표가 높다는 것은 모델이 train 데이터에 너무 적응하여 그 외의 데이터에는 제대로 대응하지 못하는 상태일 가능성이 높습니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
Train 데이터 학습 관련
시험 전에 여쭤봤어야 하는 질문인데 뒤늦게 여쭤보네요 Train test split 사용하여 tr 과 val 로 나누어서 model.fit 하여서 f1 score 확인 하였고그 이후에 test 를 바로 predict 하여 제출 하는게 아니라혹시 Tr 과 val 을 나누기 전의전체 train 데이터로 다시 fit 시켜서그 모델로 Test 데이터 를 predict 해도 되는지 궁금 합니다
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
타임델타 관련
6회 시험 1 유형 1번타임델타 사용 질문입니다_m_s로 분과 초를 추출했는데위쪽에 위치한 프린트문 주석처리 여부에 따라아래쪽에 출력한 저의 답의 결과가 달랐습니다 ㅠ뭐가 문제였을지 궁금합니다 ㅠ참여데드라인 넘기고 공부시작하는바람에캐글 오징어게임 톡방에도 못들어가서 이런 얘기 여쭤볼데가 없네요 ㅠ시험중 1대1문의에 물어보니 첨엔 컴퓨터 오류 아니라구 하다가 재차 물어보니 해당내용 확인중이라고하구 그냥 답을 제출하라그래서 찾은 답을 프린트하는 하드코딩으로 제출했습니다 ㅠㅠㅠ 흑....0점 처리되는거 아닌지 걱정되네요
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
이 에러는 무슨 에러인가요?
무슨 에러인가요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형2 모의문제1
train 데이터를 별도 분리안하고 범주형은 라벨 인코더로 스케일링하고나서 수치형데이터도 값이 큰건 minmaxscaler나 robustscaler로 적용하고 싶어서 개별 컬럼 선택해서 적용해보는데... 에러가 뜨는데 머가 문제인지 알수 있을까요?수치형 범주형 개별로 스케일링 하고 싶으면 데이터를 분리했다가 다시 합쳐야 하는 걸까요?train['Total_Trans_Amt'] = scaler.fit_transform(train['Total_Trans_Amt']) test['Total_Trans_Amt']=scaler.transform(test['Total_Trans_Amt'])
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형 3번 질문
안녕하세요 드디어 내일이네요작업형 3유형이 어떻게 나올지 몰라 조금 걱정이 되면서 이것저것 다시 복습하고 있었는데,가설검정을 하기 위한 전제 조건으로는데이터의 정규성과 등분산을 검정 해야 한다고 알고 있습니다. (shapiro, levene)이 때 도출 된 p값이 유의수준(알파) 보다 높아야 귀무가설이 채택되며 가설검정을 할 수 있는데,작업형 예시 3유형 쌍체표본(ttest_rel) 검정 시, 강의영상에는 뮤값(이후혈압 - 이전혈압)에 대해따로 검정(정규성, 등분산)을 안 하셨던데 정석대로라면 해야 하는게 맞는건가요?(당연히 문제에는 가설검정이 진행을 할 수 없도록 문제는 내지 않겠지만요) 만약 정규성과 등분산 검정해서 귀무가설이 기각 되면 (정규성이나 등분산을 만족하지 못하면),어떻게 진행을 해야 할까요? (윌콘슨 검정 등을 통해 진행 해야 하는건지요?) 첫 유형이라 예시문제 정도 수준으로 나올 것 같긴한데, 준비를 하면 할 수록 더 걱정이 되네요 ㅎ
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형2 데이터 주어지는 개수에 따라
안녕하세요 선생님! 먼저 좋은 강의 정말 감사드립니다!@작업형 2를 풀다보니.. 데이터가 2개 주어지는 경우와 3개 주어지는 경우로 나뉘어지는데! 2개 주어지는 경우는 분할을 한다고 기억하면 되는 걸까요??!
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
2회 기출유형(작업형2) 질문있습니다.
강사님, x_train, y_train을 굳이 concat하지 않고 바로 진행해도 문제 없나요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
predict_proba 와 predict
안녕하세요! 시험 앞두고 갑자기 한번 더 확인하고싶은 사항이 있어 문의드립니다 ㅠㅠ!예측할 pred작성시 평가방법이 roc_auc_score 일때만 predict_proba를 사용했었는데, 이거 말고도 혹시 proba를 붙여서 써야하는 경우가 또 있을까요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
작업형3 예시 문제 질문
학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요먼저 유사한 질문이 있었는지 검색해보세요 작업형3 예시문제 1번 표본평균 구하는 문제 관련 질문드립니다. 1번 표본평균을 구할 때, df['diff'] 열을 만든 후에 바로 평균을 구한 값으로 제출하면 된다고 하셨는데 이 부분이 이해가 안 가 문의드립니다. (df['diff'] = df['bp_after'] - df['bp_before'])뮤 값이 (치료 후 혈압 - 치료 전 혈압)의 평균값이면df['diff']의 평균 값을 구한 후에 그 값을 다시 평균을 내야하는게 아닌가 해서요! 감사합니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
지수표현식 문의
시험에서 지수표현식 사용안하는 코딩을 쓰지 않아도 되나요? 시험에서 문제될 게 있는지 궁금합니다.
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
7번 문제 이 풀이도 맞는 풀이인가요?
(사진)
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
그룹별로 최댓값 구하기
[코드 1]b = a.groupby(['neighbourhood_group','neighbourhood']).size().reset_index(name = '컬럼의 갯수')b = b.groupby(['neighbourhood_group'], as_index=False).max()print(b)[코드 2]b = a.groupby(['neighbourhood_group','neighbourhood']).size().reset_index(name = '컬럼의 갯수')b = b.sort_values('컬럼의 갯수', ascending=False)b = b.groupby('neighbourhood_group').head(1) 코드1번과 코드 2번의 결과값이 다른 이유가 무엇인지 모르겠습니다 ㅠㅠ
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
roc_auc_score 오류multi_class must be in ('ovo', 'ovr') 해석 및 해결 방법 문의 드립니다
roc_auc_score 시 multi_class must be in ('ovo', 'ovr') 오류 해석 및 해결 방법 문의 드립니다..!
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
메모리 오류 관련
안녕하세요작업형 2관련 마지막으로 시험환경으로 연습해보고 있는데 갑자기 'killed' 오류 메세지가 나면서 모델링이 되지 않습니다. 기존 코랩과 비슷하게 했는데 어떤 차이가 있을까요?? import pandas as pdX_test = pd.read_csv("data/X_test.csv")X_train = pd.read_csv("data/X_train.csv")y_train = pd.read_csv("data/y_train.csv")# 사용자 코딩pd.set_option('display.max_columns', None)pd.options.display.float_format = '{:.3f}'.formatX_train = X_train.drop('cust_id', axis = 1)cust_id = X_test.pop('cust_id')X_train = X_train.fillna(0)X_test = X_test.fillna(0)cols_n = ['총구매액', '최대구매액', '환불금액', '내점일수', '내점당구매건수', '주말방문비율', '구매주기']cols_c = ['주구매상품', '주구매지점']from sklearn.preprocessing import RobustScalerscaler = RobustScaler()X_train[cols_n] = scaler.fit_transform(X_train[cols_n])X_test[cols_n] = scaler.transform(X_test[cols_n])from sklearn.preprocessing import LabelEncoderfor col in cols_c: le = LabelEncoder() X_train[col] = le.fit_transform(X_train[col]) X_test[col] = le.transform(X_test[col])from sklearn.ensemble import RandomForestClassifiermodel = RandomForestClassifier(random_state = 38)model.fit(X_train, y_train)pred = model.predict_proba(X_test)
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
튜닝 관련
안녕하세요 튜닝하다가 궁금한 점이 생겼는데요max_depth는 기본이 3이고 3~12 를 넣어보라고 하셨는데,2나 1을 넣어서 roc_auc_score가 높아지면 낮춰도 되는 건가요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
교재 및 강의 문의드립니다.
안녕하세요. 이제 막 강의를 듣기 시작했는데요. 혹시 교재는 별도로 판매하시나요?그리고..지금 커리큘럼에는 작업형 3에 관한 강의는 없는데요. 혹시 나중에 작업형 3에 관한 강의는 업데이트가 되는건가요? 아니면 작업형 3에 관한 것은 새소식에 올려주신 글들을 참고하면 될까요?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
roc_auc
roc_auc로 할 때1) 이진 분류 구할 때(=양성인 확률값을 구하는 것)pred = 모델.predict_proba(X_val)roc_auc_score(y_val, pred[:,1])pred_final = 모델.predict_proba(X_test)submit = pd.DataFramd({'pred': pred_final[:,1]})2) 다중 분류 구할 때(= 각 클래스에 대한 확률값을 구하는 것)pred = 모델.predict_proba(X_val)roc_auc_score(y_val, pred,multi_class='ovr')pred_final = 모델.predict_proba(X_test)submit = pd.DataFramd({'pred': pred_final[:,1]})=> roc_auc를 쓸 때는 predict는 안쓴다고 보면 되는 건가용?=> 이 정도만 알면 되는 걸까용?
-
해결됨[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)
model.fit에러
작업형2 기출2회 풀다가 에러가 생겨서 문의드립니다.원인이 뭘까요...ㅠ from sklearn.ensemble import RandomForestClassifier model= RandomForestClassifier(random_state=200) model.fit(X_tr,y_tr) pred=model.predict_proba(x_val) [전체코드]import pandas as pdX_train=pd.read_csv('X_train.csv')y_train=pd.read_csv('y_train.csv')X_test=pd.read_csv('X_test.csv')X_train=X_train.drop(['ID'], axis=1)IDX=X_test.pop('ID')from sklearn.preprocessing import LabelEncoderla=LabelEncoder()cols=['Mode_of_Shipment','Product_importance','Gender']for col in cols: X_train[col]=la.fit_transform(X_train[col]) X_test[col]=la.transform(X_test[col])from sklearn.model_selection import train_test_splitX_tr, X_val, y_tr, y_val=train_test_split(X_train, y_train['Reached.on.Time_Y.N'], test_size=0.2, random_state=200)# 모델링from sklearn.ensemble import RandomForestClassifiermodel= RandomForestClassifier(random_state=200)model.fit(X_tr,y_tr)pred=model.predict_proba(x_val)