• 카테고리

    질문 & 답변
  • 세부 분야

    딥러닝 · 머신러닝

  • 해결 여부

    미해결

n_epochs

20.11.23 23:59 작성 조회수 201

0

SGD에서 수행 시 반복횟수 이터레이션이 정확히 무엇을 말하나요?

기억이 가물가물해서 그런데 혹시 디폴트 값이 20이면 전체데이털르 최대 20번까지 돌면서 학습하는 것인가요??

혹시 만약 맞다면 같은 데이터를 계속학습한다면 어떤 장점이 있어서인가요? 

답변 1

답변을 작성해보세요.

0

안녕하십니까,

이터레이션은 말씀하신 대로 SGD를 수행할 때 반복하는 횟수를 의미합니다.

SGD는 일반적으로  (무작정) 예측 오류값이 작아지는 방향성으로 최적 해를 찾기 위해서 수행합니다. 실제값과 예측값의 차이가 충분히 작아질 수 있도록 행렬 분해 된 P행렬과  Q 행렬을 유도하기 위해서 사용됩니다.

이때 예측 오류값이 작아지는 방향성인 최적해는 구하려는 목적별로 다릅니다(가령 딥러닝의 SGD나 행렬 분해의 SGD).  여기서는  행렬 분해를 위한 SGD식에서 이터레이션 횟수만큼 전체 데이터에 대해 최적 최소 예측 오류식의 Weight값을 계속 update하면서  최적 P와 Q를 유도해 갑니다.

이터레이션을 많이 할 수록 더 많은 weight update를 수행하므로 이론적으로는  충분히 작은 예측 오류에 도달할 수 있는 장점이 있습니다(하지만 반드시 그렇지는 않습니다)

감사합니다.