inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[개정판] 파이썬 머신러닝 완벽 가이드

linear regression 과 PCA, p_value 질문

209

nathan

작성한 질문수 87

0

선생님 안녕하세요

좋은 강의 감사합니다.

 

linear regression(statsmodel)에 PCA를 적용하여 test 데이터로 예측하는 경우에 질문이 있습니다.

 

예를 들어, 기존의 20개의 피쳐 --> PCA를 통해 10개의 새로운 피쳐(x1~x10)를 추출했다고 가정하고,

이 중에 statsmodel로 linear regression 을 돌렸는데, 이 중 x6, x7, x8 의 p_value 가 0.05 이상이어서 유의미한 피쳐가 아니라고 볼 수 있는 상황입니다.

 

그러면 test 데이터(valid 데이터 아님)를 가지고 실제로 예측을 해야 하는 상황에서는,

  1. test 데이터를 가지고 PCA를 돌려서 10개의 새로운 피쳐를 추출

  2. 그 중에 x1~x5, x9, x10 --> 7개의 피쳐를 추출하고, train 데이터에서 나온 7개의 coef 를 가지고 만들어진 선형 모델로 예측 수행

을 하면 되는 것이 맞나요?

 

제가 궁금한 것은 PCA를 사용하여 나온 피쳐 중 일부만을 사용하는 경우에도, train 을 통해 나온 coef 를 pca로 변환한 test 데이터에 사용할 수 있는지 여부 입니다.

 

감사합니다.

python 머신러닝 통계

답변 1

0

권 철민

안녕하십니까,

오, 통계를 잘 아시니, 이런 방법도 생각해 내실 수 있군요.

이론적으로 안될 이유는 없어보입니다. 다만 저는 이런 방법을 머신러닝에 적용해 본적이 없습니다. 그리고 머신러닝은 굳이 p value를 사용하지 않습니다.

말씀하신 방식은 4장 마지막쯤에 언급드린 피처 셀렉션을 적용하시면 될 거 같습니다. 전반적인 차이는 크게 없습니다.

감사합니다.

모델 서빙과 관련된 강좌가 출시되는지 질문드립니다.

0

19

2

안녕하세요 열심히 수강중인 학생입니다

0

65

2

정수 인덱싱

0

71

2

넘파이 오류

0

86

2

11강 numpy의 axis 축 질문 드립니다.

0

89

2

Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.

0

80

2

Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.

0

71

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

76

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

65

2

5강 강의 오류가 있어요.

0

86

1

실무에서 LTV 관련 모델 선택 질문입니다!

0

74

2

14강 강의 듣는중에 궁금한게 있어서 질문합니다~

0

70

3

파이썬 다운그레이 후 사이킷런 재설치

0

120

2

좋은 강의 감사합니다.

0

75

2

scoring 함수 음수값

0

68

2

6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?

0

102

2

분류 평가 정확도 예측

0

80

2

안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.

0

100

1

카카오톡 채널 있나요

0

109

1

혹시 강의에서 사용하시는 ppt 받을 수 있는건가요

0

191

2

pca 스케일링 관련하여 질문드립니다.

0

101

2

주피터 대신 구글 코랩

0

173

2

강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?

0

149

2

실루엣 스코어..

0

87

2