model.fit() 메소드 관련 질문 (PyTorch와의 차이점)

Question

안녕하세요. 강사님 항상 강의 잘 보고 있습니다.

model.fit() 메소드를 사용하면서 궁금한 점이 있어 질문을 드립니다.

PyTorch 프레임워크에서는 학습을 할 때

- optimizer.zero_grad()

- loss.backward()

- optimizer.step()

이렇게 3개의 과정을 통해서 Gradient를 계산하면서 학습을 하게 되는데, Keras의 model.fit() 메소드에

이 3개의 과정이 포함되어 있는 지 궁금합니다.

Answer

안녕하십니까,

네 맞습니다. tensorflow는 model 내부에서 fit() 메소드를 통해서 pytorch의 아래 과정을 수행하게 됩니다.

- optimizer.zero_grad()

- loss.backward()

- optimizer.step()

tensorflow는 model에서 loss, optimizer가 tight하게 couple 되어 있고, pytorch는 loose하게 couple 되어 있습니다.

좋은 질문 감사합니다.