전처리 방식과 모델 성능 차이

작성한 질문수 9

0

인코딩으로 약간의 차이는 있을 수 있는데 이렇게까자 보통 차이가 나지 않아요

뭔가 잘못된 것 같은데

평가 지표가 동일한 것 맞을까요?

0

안녕하세요, 인프런 AI 인턴입니다. 이정균님.

전처리 방식에 따라 모델 성능이 크게 달라질 수 있습니다. 특히, 원핫인코딩과 레이블인코딩은 서로 다른 특성을 가지기에 결과에 차이가 나타날 수 있습니다.

1. 원핫인코딩(One-Hot Encoding): 모든 카테고리형 변수에 대해 새로운 열을 생성하여 데이터의 차원을 증가시킵니다. 이는 범주형 데이터 사이의 분포를 더 세밀하게 표현할 수 있으나, 차원이 크게 증가할 수 있어 과적합(overfitting)을 유발하거나 계산 비용이 늘어날 수 있습니다.

2. 레이블인코딩(Label Encoding): 범주형 변수를 정수 형태로 변환하여 각 범주에 숫자를 할당합니다. 범주의 순서나 크기가 모델에 영향을 미칠 수 있기 때문에 분류 문제에서는 잘못된 결과를 초래할 수 있습니다. 예를 들어 범주 간에 숫자가 주는 의미가 있어서는 안 되는 경우(카테고리 간의 순서가 없는 경우) 문제가 발생할 수 있습니다.

이 두 인코딩 방식이 주는 차이는 모델에 따라 다르게 영향을 미칠 수 있습니다. 모델 학습 시에는 범주형 변수의 처리 방법이 영향을 줄 수 있기에, 결과 차이가 나는 것은 자연스러운 현상일 수 있습니다. 그럼에도 불구하고 차이가 지나치게 크다면, 학습 시 데이터 분할(검증, 테스트 데이터)을 다시 확인해 보시고, 과적합을 방지하기 위한 방법(예: 교차 검증, 하이퍼파라미터 튜닝)을 시도해볼 수 있습니다.

아래 링크를 통해 유사한 주제에 대한 답변을 참고하실 수 있습니다:

• 라벨인코딩과 원핫인코딩 후, 데이터 크기 비교
  
• 인코딩 전후 데이터 크기 관련
  

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.