XGBoost나 LightGBM의 eval_set질문

안녕하십니까,

정확하게 제가 질문을 이해하고 답변을 드리는 건지 약간 애매한 부분이 질문에 있습니다. 원하시는 답변이 아니면 다시 말씀해 주십시요.

evaluation은 학습이 제대로 되고 있는지 방향성을 알려 줍니다. 즉 학습 데이터와 검증 데이터로 나누고, 학습을 수행하면서 평가를 검증 데이터로 계속 진행합니다. 학습데이터로만 오차가 적은 방향으로 계속 update되면 오버 피팅이 되기 때문에 검증 데이터로 오차가 적은 방향이 되는지 계속 확인하면서 올바른 방향성으로 가는지 확인하는 것입니다.

보통은 evaluation 데이터를 학습 데이터의 일부를 쪼개서 별도로 구성합니다. 테스트 데이터는 아예 학습/검증 데이터가 아닌 다른 데이터로 사용을 합니다.

감사합니다.

evaluation 데이터는 train 데이터에서 가져오는거였군요... 좋은 답변 감사합니다. 애매했던게 풀린 느낌이에요!