inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

작업형2 모의문제2

작업형2 모의문제 2 질문있습니다!

해결된 질문

476

화이팅

작성한 질문수 7

0

안녕하세요!

  1. 작업형 2 모의문제 2의 마지막에 csv파일을 제출할 때 에러가 발생하는데, 어떤 이유인지 찾아봐도 안보여 질문드립니다.

     

  2. 그리고 작업형 2유형의 train과 test데이터 파일만 주어진 경우, 어떤 문제는 n_train, c_train, n_test, c_test로 나누는 문제가 있고 그렇지 않은 문제들이 있어서 헷갈립니다ㅠ 그래서 문제를 읽고 데이터를 분리해야하는 상황이 궁금합니다!

import pandas as pd
train = pd.read_csv('train.csv')
test = pd.read_csv('test.csv')

# print(train.head())
# print(test.head())
# print(train.info()) 1. 불필요한 컬럼제거 2. 결측치 대치 3. 인코딩 4. 스케일링
# print(test.info())

train = train.drop(columns ='id')
test_id = test.pop('id')

# print(test_id)

cols = ['host_id','neighbourhood_group','neighbourhood','name', 'host_name', 'last_review']
# print(train.shape)
train = train.drop(cols, axis =1)
test = test.drop(cols, axis =1)
# print(train.shape)

# train = train.drop(columns ='host_id')
# test = test.drop(columns ='host_id')
# train = train.drop(columns ='neighbourhood_group')
# test = test.drop(columns ='neighbourhood_group')
# train = train.drop(columns ='neighbourhood')
# test = test.drop(columns ='neighbourhood')
# train = train.drop(columns ='name')
# test = test.drop(columns ='name')
# train = train.drop(columns ='host_name')
# test = test.drop(columns ='host_name')
# train = train.drop(columns ='last_review')
# test = test.drop(columns ='last_review')

# print(train.info())
# print(test.info())
# print(train.isnull().sum())
# print(test.isnull().sum())

train['reviews_per_month'] = train['reviews_per_month'].fillna(0)
test['reviews_per_month'] = test['reviews_per_month'].fillna(0)

# print(train.isnull().sum())
# print(test.isnull().sum())

#라벨 인코딩
from sklearn.preprocessing import LabelEncoder

cols =train.select_dtypes(include = 'object').columns

for col in cols:
  encoder = LabelEncoder()
  train[col] = encoder.fit_transform(train[col])
  test[col] = encoder.transform(test[col])

# print(train.info())
# print(test.info())

# print(train.describe())
# print(test.describe())

# 스케일링
from sklearn.preprocessing import minmax_scale

cols2 = train.select_dtypes(exclude = 'object').columns

for col in cols2:
  train[col] = minmax_scale(train[col])

cols2 = test.select_dtypes(exclude = 'object').columns

for col in cols2:
  test[col] = minmax_scale(test[col])

# print(train.describe())
# print(test.describe())

from sklearn.model_selection import train_test_split

X_train, X_val, y_train, y_val = train_test_split(train.drop('price', axis=1), train['price'], test_size=0.2, random_state=20)

# print(X_train.head())

from sklearn.ensemble import RandomForestRegressor
rf = RandomForestRegressor()

rf.fit(X_train, y_train)
pred = rf.predict(X_val)
# print(pred)

#id,price

sumit = pd.DataFrame({'id': test_id, 'price' : pred})
submit.to_csv('10004.csv', index=False)

 

 

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 1

0

퇴근후딴짓

92번에 표시가 되어 있고 value에러가 발생했네요

내용을 읽어 보니 데이터의 길이가 맞지 않는 상황입니다.

92번을 살펴보니 test_id가 있고 pred가 있네요

둘 중 하나는 7824개고 나머지 하나는 9779로 예상되네요

왜 길이가 안맞을까요?

test_id는 그대로 복사한거니 큰 이슈가 없을 것 같고

pred를 의심해봐야겠네요

pred로 대입한 문장으로 따라 올라가보겠습니다.

코드를 살펴보니 예측한 결과 값은 맞는데 validation(검증)데이터 였네요!!

에러가 없으려면 test 데이터를 예측해야 합니다.

pred = rf.predict(X_val)

이렇게만 하면 validation을 나눈 의미가 없습니다.

검증데이터는 평가해보기 위해 분할한거에요~

 

2 전처리 방식의 차이 입니다

나누는 방식을 활용해도 되고, 컬럼을 선택하는 방식을 활용해도 됩니다. 다양한 방법이 있음을 보여드렸습니다.

 

작업형 1번문제... 환경관련

0

9

1

12회 기출은 언제 업데이트 될까요??

0

9

1

8/6 작성한 연장문의 질문글에 대한 재요청

0

24

1

수강기간 연장 문의

0

25

1

수강기간 연장문의

0

25

1

수강기간 연장 요청 문의드립니다

0

30

1

수강 기간 연장 문의

0

35

1

수강연장 가능 문의 (기간 약 한달반)

0

53

2

수강기간 연장 가능할까요 선생님

0

70

2

Section15. 수업에 사용하는 데이터 주소가 다 보이지 않아서 실습을 위한 데이터를 다운 받지 못하고 있습니다.

0

47

3

수강연장요청 문의

0

83

2

아무래도 다음 시험 연장은 어렵겠죠?

0

103

2

빅분기 12회 결과 관련 문의

0

107

1

책이랑 강의랑 순서나 예제가 다른것 같네요

0

78

2

수강연장 문의

0

102

2

재검토 요청 방법 좀 알려주셔요...-.-;;

0

101

2

12회 실기 질문(작업형 2)

0

88

2

뒤로가기 버튼 같은 것이 있나요?

0

61

1

강의 연장 문의

0

97

2

출력값 질문

0

69

2

수업노트가 어디에 있나요?

0

59

1

실기시험 제출관련

0

222

3

6.20 작업형 2 과적합

0

227

3

코딩팡 장업형2 베이스 라인 인코딩 종류 질문

0

86

2