안녕하세요 LR 변화에 대해서 질문이 있습니다
294
작성한 질문수 44
안녕하세요 Callback 함수에서 ReduceLROnPlateau을 사용하면 동적으로 fit 중에 factor만큼 변화를 할 수 있다고 배웠습니다. 그런데 앞에 이론 수업에서 Adam을 사용할 때도 동적으로 LR을 바꾼다고 들었는데, 서로의 역할이 다른 것인가요? 아니면 제가 잘못 이해한 것인가요? 감사합니다
답변 1
0
안녕하십니까,
네, 맞습니다. 둘다 동적으로 변경합니다. 주요 차이점은 Adam과 같은 optimizer 배치 단위로 학습률을 동적으로 변경하는 정책을 가져갑니다. ReduceLROnPlateau 와 같은 LR Scheduler는 Epoch단위, 즉 전체 학습 데이터를 한번씩 학습 할때 마다 변경 여부를 결정합니다.
감사합니다.
resize 질문
0
50
1
20251212 Kaggle 런타임에 scikit-learn 설치 실패 트러블 슈팅
0
76
1
Loss와 매트릭 관계
0
62
2
Boston 코랩 실습
0
163
2
배치 정규화의 이해와 적용 2 강의 질문
0
135
2
Augmentation원본에 적용해서 데이터 갯수 자체를 늘리는 행위는 의미가있나요?
0
144
2
Conv함수 안에 activation 을 넣지 않는 이유가 뭔지 궁금합니다.
0
204
2
소프트맥스 관련 질문입니다
0
208
1
강의 관련 질문입니다
0
151
2
residual block과 identity block의 차이
0
190
2
옵티마이저와 경사하강법의 차이가 궁금합니다.
1
240
1
실습 환경
0
165
2
입력 이미지 크기
0
243
2
데이터 증강
0
196
2
albumentations ShiftScaleRotate
0
207
1
Model Input Size 관련
0
279
1
마지막에 bird -> frog 말고도 deer -> frog 도 잘못된것 아닌가요??
0
204
1
일반적인 질문 (kaggle notebook사용)
0
272
2
실무에서 Augmentation 적용 시
0
338
2
안녕하세요 교수님
0
231
1
가중치 초기화(Weight Initialization) 질문입니다.
0
327
1
테스트 데이터셋 predict의 'NoneType' object has no attribute 'shape' 오류
0
408
1
학습이 이상하게 됩니다.
2
1036
2
boston import가 안됩니다
0
229
1