머신러닝 알고리즘에서 데이터 수가 적다는 의미

Question

선생님~

교차검증 할 때, test_data까지 포함한 이유에 대해서

선생님께서

'여기서는 test_data까지 포함해서 cross_val_score() 를 수행한 이유는 단순히 데이터 건수가 너무 적어서 입니다.' 라고 하셨던

답변을 봤었는데요.

이 답변을 보고 궁금한 점이..데이터 수가 적다는 의미의 크기는

어느정도 인가요..?

(예를 들면, 통계에서 중심극한정리로 모수 통계분석은 n수가 30 이상이어야 정규분포를 따르므로 30 이상의 데이터가 좋은 것처럼..)

Answer

데이터 수가 적고/많음의 기준을 딱 정할 수는 없습니다.

일반적으로 데이터 수가 많아도 업무적인 환경을 다 반영하지 못하면 좋은 데이터 셋이 아닙니다.

가령 색깔 판정을 할때, 빨강 데이터는 무척 많고, 파랑 데이터는 매우 적은 학습 데이터가 있지만, 실제로는 빨강과 파랑이 동일한 비율로 존재하는 업무라면 아무리 학습 데이터가 많아도 좋은 데이터가 아닙니다.

일반적으로 데이터의 건수로 적다/많다를 정할 수는 없지만 경험상 업무적인 조건이 어느정도 반영이 되었다면 1000건 이하는 적은 데이터라고 개인적으로 생각합니다. 하지만 이는 업무적인 특성에 따라 얼마든지 달라 질수 있습니다.