적절한 batch_size와 epochs ?
1187
작성한 질문수 20
강의를 듣던 중 적절한 batch_size와 epoch 수가 어떻게 될까 궁금해졌습니다.
그리고 ,
큰 데이타는 메모리에 한번에 데이타를 못올리니까 나누어서 올린다는 생각만했는데
일부만 돌려서 weight와 bias를 구하고
다음 batch_size를 이용할 때 여기서 얻은 weight와 bias를 이용해서
weight와 bias가 갱신되는 것 같은데 어떻게 이것이 진행되는지 궁금합니다.
답변 1
0
안녕하세요?
batch_size와 epoch은 단지 데이터 로드에만 관여되는 것이 아니라 학습전략과도 밀접한 관련이 있습니다.
여기에 대한 설명은 '케라스 시작하기'단원 '케라스 학습 fit이해하기'강의 3분 쯤 되는 곳에서 설명해뒀습니다.
마치 학습지나 Voca책을 공부할때 몇 번 책을 보느냐가 epoch이면 몇 단원 공부하고 답을 맞춰보느냐가 batch_size냐와 같습니다. 같아보이지만 전혀 다른 효과를 얻을 수 있겠지요. 그 이유는 강의를 들으시면 쉽게 이해하실 수 있을 것입니다.
뒤에 설명할 Overshooting이슈와도 맞물려서 batch_size와 epoch은 최적값을 '잘' 찾아야된다고만 말씀드릴 수 있습니다. 그래서 데이터셋 전략에서 Validation Set을 따로 두고 최적 학습값을 찾아갑니다.
다행이 케라스는 이런 값들을 편하게 찾아줄 수 있는 EarlyStoping같은 기법들을 제공해주고 있는데 그 내용도 강의 내용 뒤에 다루었으니 한번 쭉 내용을 보시면 도움이 될것 같습니다.
감사합니다.
수업자료
0
23
2
paperswithcode 서비스 종료 관련 문의
0
205
2
22강 코드 call()메서드 is_training -> model(x,False)로 호출시 밸류에러 참고
0
48
1
강의자료 질문
0
42
1
강의자료는 어떻게 보나요
0
83
2
resize 질문
0
50
1
Colab실습관련
0
59
2
트랜스포머 FeedForward 관련 질문
0
69
2
mmdetection 2.x과 3.x 호환 관련 표기
0
76
2
mm_faster_rcnn_train_kitti.ipynb 실행 오류
0
94
3
[해결]그랩님 답변 주세요.
0
160
2
20251212 Kaggle 런타임에 scikit-learn 설치 실패 트러블 슈팅
0
75
1
get_dummies 관련문의
0
63
2
강의 수강
0
73
1
질문 드립니다.
0
75
3
그랩님의 답변을 기다립니다/102강 전반적인 에러
0
140
2
[그랩님께]101강 안드로이드 에러들(Key prop)해결방법 궁금합니다.
0
123
2
mm_faster_rcnn_train_coco_bccd 실행 오류 질문드립니다.
0
77
1
파라미터갯수에대한질문(030_IMDB_movie_reviews)
0
60
1
boston 데이터가 없다구요
0
36
1
강의 코드와 데이터 자료 위치
0
228
1
model 에 layer 를 add 할경우...
0
282
1
dataset.csv 파일은ㅇ ㅓ디서 찾을수 있나요?
0
209
1
model.get_weights() 반환되는 가중치의 구조는?
0
1026
2