Inflearn Community Q&A
asked
분류실습2 데이터 전처리, 분할에 대해서
Written on
·
95
0
안녕하세요 선생님 분류실습2 섹터에서 학습하다가 궁금한 것이 생겨 질문합니다.
전체 로직에서 학습과 테스트 데이터셋으로 먼저 분할을 해준 뒤 전처리를 수행하는 것이 아니라 왜
전체 데이터셋에 전처리를 적용시킨 뒤에 학습과 테스트 데이터셋으로 분할이 되었는지 궁금합니다.
일반적인 상황에서 어떤 순서가 맞는 것인지 아니면 선생님만의 기준이 있는 것인지 궁금합니다.
python머신러닝통계
Answer 1
0
dooleyz3525
Instructor
안녕하십니까,
학습과 테스트 데이터 세트로 분할 한 뒤 데이터 전 처리를 수행하는 것이 좀 더 보편적입니다. 특히 실시간 성으로 모델이 Predict해야 한다면, 해당 실시간 데이터는 모델 predict() 이전에 전 처리가 되어야 합니다. 학습과 테스트 데이터 분할 한 뒤 scaling/encoding 적용 시 유의 사항이 있기에 강의에서는 이를 이후에 설명드리기 위해 일단은 쉽게 접근 할 수 있게 데이터 전처리를 수행 후에 학습과 테스트 데이터 세트로 분할 합니다.
데이터 전처리를 수행 후에 학습과 테스트 데이터로 분할 하는 경우는 실시간이 아닌 배치성 모델 predict(예를 들어 바로 predict로 결과를 실시간성으로 예측하지 않고, 대량의 배치성 데이터로 predict를 수행 할 경우) 이면서 간단한 Baseline 정도로 테스트 할 경우 입니다.
감사합니다.