inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

구현하며 배우는 Transformer

RNN의 이해 및 문제점

RNN에서 출력 y에대해서..

67

산마로

작성한 질문수 20

0

안녕하세요.. RNN모델 설명에서, 궁금한 것이 있습니다. y_i = h_i 가 되는 것인가요?

딥러닝 pytorch encoder-decoder bert transformer

답변 1

0

권 철민

안녕하십니까,

개념 이해를 위한 그림상으로는 hi = yi 로 표시될 수는 있지만, 실제 RNN Model 적용시에는 보통 hi 에 다시 linear layer 적용으로 학습 파라미터가 다시 적용되어서 만들어지게 때문에 hi = yi는 아닙니다. 그림 상에는 hi에 학습 파라미터 적용되어서 yi가 되는 부분이 생략되어 있습니다.

감사합니다.

강의 자료 열람 요청이 안되네요

0

12

1

예측에 사용하는 경제지표의 활용에 대해

1

25

2

강의 자료를 어디서 확인 할 수 있나요?

1

29

3

실습 코드

0

31

2

[참고] Cannot connect to host host.docker.internal:8080

0

44

2

40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요

0

46

2

There are no longer any instances available with the requested specifications. Please refresh and try again.

0

76

2

MMDetection 버전 이슈

0

53

2

질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?

0

64

2

[업로드오류] 강의 내용과 제목 불일치

0

45

2

섹션22 퀴즈 질문

0

54

1

import torch가 안되는 경우는 어떻게 하나요?

0

53

1

Embedding 모델 fine tuning 관련 질문

0

84

2

코드에 오타가 있는 것 같습니다

0

63

2

코드 오타가 있는것 같습니다.

0

73

2

트랜스포머 모델 구조에서 Encode-Decoder Attenttion에 대해서

0

76

2

트랜스포머 구조에서 블럭갯수에 대해서

0

71

2

embedding 값 시각화 해보기에서

0

60

1

length_penalty 부분이 없는 것 같습니다.

1

62

1

멀티 헤드 셀프 어텐션에서 Wq, Wk, Wv의 구조 관련 질문

0

89

3

MLM, NSP 구현 여부

0

80

2

bert encoding input_ids.size(1)에 대하여

0

62

2

트랜스포머 학습 강의

0

98

2

Q, K, V 초기 임베딩

0

75

1