인프런 커뮤니티 질문&답변

케라스가 다양한 종류의 경사 하강법 알고리즘을 제공하고 이들을 옵티마이저라고 부른다.

- 옵티마이저 기본값 = 'rmsprop'

- 그 외 다양한 옵티마이저 알고리즘 : sgd, Adagrad, Adam...etc

여기까지는 이해를 했는데, 

"가장 기본적인 옵티마이저가 확률적 경사 하강법인 SGD이고, 기본 경사 하강법 옵티마이저는 모두 SGD 클래스에서 제공한다."

이 부분이 이해되질 않습니다.

 

1. RMSprop, SGD, Adagrad, Adam 모두 동일선상의 알고리즘 아닌가요? 아니면 기본 경사 하강법 옵티마이저(SGD, 모멘텀, 네스테로프 모멘텀)와 적응적 학습률 옵티마이저(RMSprop, Adagrad, Adam)를 각각 다른 옵티마이저 그룹으로 나누어 생각해야 하나요?