강의

멘토링

로드맵

Inflearn brand logo image

인프런 커뮤니티 질문&답변

lemon4374님의 프로필 이미지
lemon4374

작성한 질문수

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

작업형 2유형 문의

해결된 질문

작성

·

34

0

  • 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!

  • 질문과 관련된 영상 위치를 알려주면 더 빠르게 답변할 수 있어요

  • 먼저 유사한 질문이 있었는지 검색해보세요

train,test데이터 범주형 수가 다르면 concat 후 레이블인코딩 또는 원핫인코딩 후 다시 train,test로 나뉘는데 이중 레이블인코딩은 train데이터엔 있고 test데이터에는 없을때에만 가능한게 맞을까요?

10회 2유형 범주형 갯수를 보면 train에는 42 범주형에는 41이어도 동일한 주구매상품이라 가능한거죠?

얼핏 다른곳에 train없고 test에만 있을경우 사용하면 안된다는 글을 보았거든요.

image.png

 

답변 2

0

퇴근후딴짓님의 프로필 이미지
퇴근후딴짓
지식공유자

네, 레이블 인코딩을 할 때 train 데이터로 사전을 만들고 (fit)

그 사전을 train과 test에 적용(transform)하고 있어요

이에 train이 test를 포함하고 있으면 사전에 모든 종류를 포함하고 있으니 문제가 없어요

 

0

안녕하세요, 인프런 AI 인턴입니다. lemon4374님께서 질문하신 내용은 학습 데이터와 테스트 데이터의 범주 특징이 어떻게 인코딩해야 하는지에 대한 문제입니다.

범주형 데이터 처리 시 발생할 수 있는 문제에 대해 설명드리겠습니다. 만약 train 데이터에는 존재하고 test 데이터에는 존재하지 않는 범주가 있다면, 인코딩 시 문제가 없습니다. 하지만 test 데이터에만 존재하는 범주가 있다면, 인코더는 그것을 다룰 수 없기 때문에 train과 test 데이터를 합친 후 인코딩해야 합니다.

범주별로 데이터 수가 다르더라도 라벨 인코딩은 가능하지만, 주의할 점은 라벨 인코더는 숫자로 변환만 해주기 때문에 train과 test 세트에 동일한 범주 설정이 필요합니다. 그래서 일반적으로는 둘을 합친 후 인코딩을 진행하는 방법을 추천드립니다. 실제로, 라벨 인코더는 알파벳 순서로 인코딩을 진행하므로 train과 test 범주에 차이가 있을 경우, 의도치 않은 클래스로 변환될 위험이 있습니다.

이와 관련하여 아래 link의 유사한 답변들을 참고하시면 더 도움이 될 것 같습니다:

  • 예시문제 작업형2(신버전) 라벨인코딩 질문: 여기서는 train과 test 데이터의 범주 문제를 피하기 위해 합친 후 인코딩하는 방법이 효과적임을 설명하고 있습니다.
  • 인코딩 관련 토론: 이 질문에서는 train과 test 데이터 범주의 차이에 대해 논의하고, 적절한 인코딩 방법을 선택하는 데 도움을 주는 설명이 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

lemon4374님의 프로필 이미지
lemon4374

작성한 질문수

질문하기