LSTM 원리가 궁금합니다.

Question

LSTM을 공부하고 직접 구현해보고 느낀점은 예측 값이 실제 값보다 하나씩 밀리는 현상이 있는 것 같습니다. LSTM의 원리가 window안에 있는 데이터들을 학습하여 다음 step에 대한 예측값을 내놓는 원리가 맞나요?

Justin · Answer

안녕하세요, 승진님. Justin입니다. LSTM의 원리는 입력값으로 주어지는 데이터가 방향성의 영향이 있는 데이터 일때, 방향성으로 인해 반영되는 정보를 반영하기 위해 다량의 Weight를 이용하는 원리입니다. 예를 들어주신 "I am a good boy" 문장에 대해서 설명드리면, I가 am에 영향을 주고, a는 I와 am에 대해 영향을 받고, good은 I, am, a 에 대해 영향을 받는다고 생각을 할 수 있으며, 이 영향을 반영하기 위해 RNN 계열의 딥러닝 구조들이 나오기 시작하였다고 보시면 됩니다. LSTM 구조를 활용하여 2번째 질문처럼 활용하실 수 있습니다. 그 외에도, I, am, a, good, boy를 활용하여 긍정적인 영향이 있거나 부정적인 영향이 있다고 판단할 수 있는 이진분류로 진행할 수도 있습니다. RNN, LSTM과 관련되어 쉽게 설명된 영샹 자료를 첨부해드리니 확인해보시면 많은 도움이 될 것 같습니다. 자료 :  https://www.youtube.com/watch?v=8HyCNIVRbSU 감사합니다.

박승진 · Answer

RNN 설명을 참고했을 때, "I", "am","a","good","boy" 가 학습 데이터이고, input 값으로 I가 들어올 때 output값으로 am 나오는 것은 다음 스텝에 대한 예측인 것인가요?