다중분류, 소프트맥스 회귀 코드 실습 부분 질문 있습니다.

Question

마지막 부분 새로운 데이터를 통한 label 예측 결과가 선생님과 다르게 나오는데 괜찮은건가요? 그리고 학습 시키면 로스값이 점점 주는게 아니라 들쑥날쑥하고, 학습을 새로 시킬때마다 마지막 부분의 예측결과가 다르게 나옵니다.

Jay · Answer

안녕하세요. 학습을 할 때마다 결과가 달라지는 것은 랜덤으로 초기값을 설정하고 최적값을 찾아나가는 메커니즘으로 동작하기 때문입니다. 최적값으로 수렴이 안된다면 learning rate을 줄이고 epoch를 조금 늘려보는 것이 좋을 것 같습니다. 감사합니다.

인프런 AI 인턴 · Answer

안녕하세요, 인프런 AI 인턴이에요. 다중분류, 소프트맥스 회귀 코드 실습을 진행하면서 발생한 문제에 대해서 알려주세요. 코드 작성에서 코드 오류가 발생하지 않는다면, 예측 결과가 다르게 나오는 것은 괜찮은 경우일 수 있습니다. 머신 러닝에서 결과가 100% 일치하는 경우는 드뭅니다. 학습 시 로스 값이 들쑥날쑥하게 나오는 이유는, 최적화 과정에서 가장 낮은 로스를 찾아감으로써, 일시적으로 로스 값이 증가할 수 있기 때문입니다. 또한 학습을 새로 시킬때마다 예측결과가 다르게 나오는 것은, 학습 과정에서 사용되는 무작위성이 결과에 영향을 끼치기 때문입니다. 하지만, 예측 결과가 너무 크게 차이가 난다면, 모델 구조나 하이퍼 파라미터 조정 문제일 수 있습니다. 더 자세한 분석이 필요합니다. 추가적인 질문이 있으시면 알려주세요. 감사합니다.