중요피처별 추가 가중치 관련 질문드립니다.

안녕하십니까,

음, 흥미로운 질문이군요.

저도 생각해 보진 않았지만 모델 자체의 하이퍼 파라미터를 이용한 방법은 없을 것 같습니다.

굳이 생각해보자면 모든 피처들을 0 ~ 1사이 값으로 정규화 한 다음에 말씀하신 중요 피처들만 가중치 만큼의 값을 곱해 보면 어떨까도 싶습니다. 물론 이 경우 트리 기반이 아니라 선형기반 머신러닝 알고리즘에서 한번 시도해 볼만 합니다.

그리고 이미 잘 알고 계시겠지만 이렇게 모델이 계산한 가중치 값을 일부로 변경하는 것은 성능이 오히려 더 안좋아 질것 으로 예상됩니다. 이미 데이터를 기반으로 가중치 값을 학습했는데, 단순히 중요 피처라고 가중치를 추가하는 것을 미묘한 모델식을 크게 변경해 버리는 결과가 될것이기 때문입니다.

제 생각엔 모델 자체에서 특정 피처들의 가중치값을 변경하는 것 보다는 중요 피처들의 경우 해당 피처들로 좀 더 연관된 추가적인 피처들을 만들어 내는 피처 엔지니어링 기법이 더 성능에 도움이 될 것 같습니다.

감사합니다.