RNN 가중치 w,u,l shape 질문
401
작성한 질문수 19
안녕하세요 선생님 RNN에 대한 알고리즘을 공부하다가 가중치의 shape를 보면서 이해가 가지 않아서 질문을 드립니다
a(t)안에 있는 원소들의 shape들이 달라도 weight를 통해서 n*1의 형태로 만드는 것은 이해를 했는데
input과 ,h(t-1)의 행이 다른 이유는 무엇인가요?
행이 달라도 되는 이유가
I work at Google라고 할때
I, work (t시점이 work일때)
i, work의 글자 수의 차이 때문에 이렇게 행이 다른건가요?
감사합니다
답변 1
1
안녕하세요.
말씀하신 부분은 이해하신게 맞습니다 :) 관계식에 의해서 Ux가 크기 n x 1이고 Wh의 크기가 n x 1이므로 b+Wh+Ux 계산이 가능하여 a도 n x 1이 나오게 됩니다. 물론 여기서 b도 n x 1입니다.
행(?)이 달라도 되는 이유를 질문 주셨는데 h(t)의 길이를 의미하는 것인가요? h의 길이는 목적에 따라 다르며 h의 길이에 상관없이 many to one이나 one to many와 같이 아웃풋 길이를 정하실 수 있습니다. 그리고 임배딩할 때 글자 수와 관계없이 각 단어마다 하나의 벡터로 임배딩 됩니다.
예) I -> (1,0,0,0,....,0), work -> (0,0,1,0,....,0), .....
감사합니다!!
0
안녕하세요 선생님 추가적인 질문이 있습니다 선생님 강의하신 lstm 모형에서 unit = 64라고 하면 선생님이 보여주는 lstm 모형이 64개가 있다고 생각해야 하는건가요??? (lstm모형들이 64개가 붙어 있는건가요?)
감사합니다
수강기간 연장이 가능한지 양해를 구하며 문의를 드립니다.
0
6
1
작업형2 모의문제2에서 drop이랑 인코딩
0
19
1
안녕하세요 강사님
0
24
1
[시험 준비] AICE Associate 단기간 합격을 위한 모의고사 활용 방법 문의
1
27
1
인코딩을 다 꼭 해봐야하는지
0
25
2
LLM 시대에서 머신러닝 개념 이해 필요성 문의
0
27
1
기존 미국주식 자동매매 프로그램과 같은 AWS 서버에서 돌리려고 할때
1
46
1
안녕하세요? 강사님 질문있습니다.(인코딩관련)
0
56
2
이진분류에서 양성 클래스가 0일 때 평가 방법
0
46
2
원핫인코딩 전 train과 test 병합여부
0
49
2
수강기간 연장
0
61
2
Spark 3.5에서 pandas의 NaN이 NULL로 바뀌지 않을 때
0
48
1
Alpha vantage 유료화?
0
86
2
29강 작업2형의 이상치 처리
0
64
2
다중레이어 경사하강법에서 질문
0
322
2
XOR파트에서 입력표현 방식
1
343
2
경사하강법에서 다중레이어에서의 가중치를 구할 때 식이 이해가 가질 않습니다 ㅠ.ㅠ
1
412
1
경우에 따른 최적의 활성화 함수 선정하는 방법
0
499
2
전이학습 강의 중 질문이 있어서 남깁니다.
0
306
1
XOR 파트에서 질문 있습니다.
0
305
1
SGD + 모멘텀 등의 코드
0
509
1
bias가 왜 필요한지 정확하게 모르겠습니다.
2
1242
1
LSTM 모형의 이해
1
653
1
과적합 판단 방법에 대해 질문 드립니다.
0
2389
1