inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

딥러닝 CNN 완벽 가이드 - TFKeras 버전

확률적 경사하강법(Stochastic Gradient Descent)와 미니 배치(Mini-batch) 경사하강법 이해

안녕하세요 선생님 질문입니다!

239

Alex

작성한 질문수 69

0

강의 내용에서 이터레이션이 1000이고 전체 데이터수가 10만이라면 단순히 연산량으로 봤을 때 10만건의 데이터를 각각 1000번씩 돌려서 웨이트를 업데이트 한다라는 의미가 맞나요?

머신러닝 딥러닝 keras tensorflow kaggle cnn

답변 1

0

권 철민

안녕하십니까,

지금 질문하신 부분이 경사하강법인지, 확률적 경사하강법(SGD)인지, 미니 배치 방식인지요?

만약 질문하신 부분이 경사하강법이라고 한다면, 맞습니다.

하지만 SGD의 경우는 전체 데이터에서 1개만, 미니 배치의 경우는 배치 사이즈 만큼만 추출해서 Weight를 update합니다.

아래에 그동안 SGD, 미니 배치 시 Weight update 횟수에 대한 질문과 답변이 있습니다. 참고하시면 좀 더 도움이 될 것 같습니다.

게시판에서 미니 배치, Batch등으로 찾아보시면 됩니다.

https://www.inflearn.com/questions/297099/mini-batch%EC%9D%98-%EC%9D%B4%ED%95%B4

https://www.inflearn.com/questions/620525/%EB%AF%B8%EB%8B%88%EB%B0%B0%EC%B9%98-%EA%B4%80%EB%A0%A8-%EC%A7%88%EB%AC%B8

감사합니다.

 

0

Alex

선생님 너무 감사드립니다! 오늘도 좋은 하루 되시길 바랍니다!

resize 질문

0

51

1

20251212 Kaggle 런타임에 scikit-learn 설치 실패 트러블 슈팅

0

76

1

Loss와 매트릭 관계

0

62

2

Boston 코랩 실습

0

164

2

배치 정규화의 이해와 적용 2 강의 질문

0

136

2

Augmentation원본에 적용해서 데이터 갯수 자체를 늘리는 행위는 의미가있나요?

0

145

2

Conv함수 안에 activation 을 넣지 않는 이유가 뭔지 궁금합니다.

0

206

2

소프트맥스 관련 질문입니다

0

208

1

강의 관련 질문입니다

0

151

2

residual block과 identity block의 차이

0

190

2

옵티마이저와 경사하강법의 차이가 궁금합니다.

1

240

1

실습 환경

0

165

2

입력 이미지 크기

0

244

2

데이터 증강

0

196

2

albumentations ShiftScaleRotate

0

207

1

Model Input Size 관련

0

281

1

마지막에 bird -> frog 말고도 deer -> frog 도 잘못된것 아닌가요??

0

204

1

일반적인 질문 (kaggle notebook사용)

0

272

2

실무에서 Augmentation 적용 시

0

338

2

안녕하세요 교수님

0

231

1

가중치 초기화(Weight Initialization) 질문입니다.

0

327

1

테스트 데이터셋 predict의 'NoneType' object has no attribute 'shape' 오류

0

409

1

학습이 이상하게 됩니다.

2

1036

2

boston import가 안됩니다

0

229

1