inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

기출(작업형2) 한 가지 방법으로 풀기

인코딩

해결된 질문

56

pjwz617

작성한 질문수 2

0

 

원핫 인코딩이나 레이블 인코딩 할 때,

강의를 보면 object인 컬럼에서 카테고리(or nunique)가 같은지 비교하고 그에 따라 다르게 작업을 하는데요.

그냥 비교할 필요없이 항상 concat을 한 후에 원핫인코딩이든 레이블인코딩을 진행하면 불리한 점이 있을까요? 떄에 따라 다르게 대응하는 것보다는 기본적으로 concat을 하고 인코딩을 하는게 가장 안 헷갈리고 편한 방법 같아서 문의드립니다.

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

네! 그렇게 하면 전혀 문제될 일 없습니다 🙂

다만 기출에선 아직 카테고리가 다른 경우가 없어

합치는 일은 없었어요.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. pjwz617님.

원핫 인코딩이나 레이블 인코딩을 진행할 때, train과 test 데이터를 항상 concat한 후 인코딩을 수행하는 방안에 대해 문의 주셨네요. 모든 경우에 대해 데이터를 concat한 후 인코딩을 진행하는 방법은 데이터를 다루기 쉽게 만들어 줄 수 있지만, 몇 가지 고려해야 할 점이 있습니다.

  1. 데이터의 분배 준수: Train과 Test 데이터를 합쳐 인코딩하면, 데이터 속성에 따라 일부 정보가 유출될 수 있습니다. 이는 특히 데이터가 비대칭적으로 분포한 경우 문제가 될 수 있습니다. 예를 들어, rare categories가 test set에만 있는 경우 잘못된 train set 정보로 인해 인코딩 결과가 왜곡될 수 있습니다.

  2. 메모리 사용 증가: 데이터 사이즈가 큰 경우, 두 데이터를 합치는 과정에서 메모리 사용량이 증가할 수 있습니다. 특히 대량의 데이터를 처리해야 하는 상황에서는 성능 문제로 이어질 수 있습니다.

  3. 공통된 카테고리: Train과 Test 데이터의 카테고리가 항상 같은 것은 아닙니다. 인코딩은 데이터를 학습하는 모델에 대한 일반화의 중요성을 염두에 두어야 하며, 인코딩 방식이 모델의 성능에 영향을 줄 수 있습니다.

비슷한 주제의 답변으로는 다음 게시물을 참고하실 수 있습니다:

  1. 인코딩

위 게시물에서는 train과 test 데이터에서의 카테고리 차이에 따른 레이블 인코딩 대응에 대해 다루고 있으며, 주어진 조건에 따른 인코딩 전략을 제시하고 있습니다.

  1. 인코딩 질문

위 답변에서는 라벨 인코딩의 선언 위치와 데이터의 동작 차이에 대한 설명을 제공합니다.

결론적으로, 데이터에 따라 concat 후 인코딩을 하는 것이 최적의 상황일 수도 있지만, 데이터의 속성과 처리 환경을 고려하여 유연하게 접근하는 것이 중요합니다. 더 궁금한 점이 있으시다면 이어서 질문해 주세요.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

작업형 1번문제... 환경관련

0

7

1

12회 기출은 언제 업데이트 될까요??

0

7

1

8/6 작성한 연장문의 질문글에 대한 재요청

0

17

1

수강기간 연장 문의

0

21

1

수강기간 연장문의

0

20

1

수강기간 연장 요청 문의드립니다

0

23

1

수강 기간 연장 문의

0

35

1

수강연장 가능 문의 (기간 약 한달반)

0

52

2

수강기간 연장 가능할까요 선생님

0

70

2

Section15. 수업에 사용하는 데이터 주소가 다 보이지 않아서 실습을 위한 데이터를 다운 받지 못하고 있습니다.

0

47

3

수강연장요청 문의

0

83

2

아무래도 다음 시험 연장은 어렵겠죠?

0

103

2

빅분기 12회 결과 관련 문의

0

105

1

책이랑 강의랑 순서나 예제가 다른것 같네요

0

77

2

수강연장 문의

0

102

2

재검토 요청 방법 좀 알려주셔요...-.-;;

0

100

2

12회 실기 질문(작업형 2)

0

88

2

뒤로가기 버튼 같은 것이 있나요?

0

61

1

강의 연장 문의

0

96

2

출력값 질문

0

69

2

수업노트가 어디에 있나요?

0

59

1

실기시험 제출관련

0

222

3

6.20 작업형 2 과적합

0

227

3

코딩팡 장업형2 베이스 라인 인코딩 종류 질문

0

86

2