잠재요인 기반에서 normal함수 이용시

Question

안녕하세요!

수업 잘 듣고 있습니다!

P값 q값을 초기화해주는 부분에서,

np.random.normal 함수를 이용할 때,

scale = 1/K (K=잠재요인 개수)를 설정합니다.

여기서 scale을 이렇게 설정하는 이유가 궁금합니다.

정규화 또는 표준화하는 것으로 생각되는데,

K는 단위와 상관이 없어 scale문제가 발생하지 않을 것 같은데, 이를 설정하는 이유를 알 수 있을까요

Answer

안녕하십니까,

급한일이 생겨서 답변이 조금 늦었습니다.

이게 경험적인 거라, 뭐라 말씀드리기 그런데, 잠재 요인 적용시 스케일링 안해주면 Gradient Descent를 통한 학습 후 예측값이 조금씩 큰값이 도출됩니다. 이를 제어 하기 위해 1/K로 나눠주는게 좋습니다.

감사합니다.