inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

구현하며 배우는 Transformer

TransformerSeq2SeqModel 구현

소스코드 오탈자 및 누락입니다.

61

mh hc

작성한 질문수 2

0

kaggle에 import해보니..

 

image.png

인코더 모델에 self.pos_dropout이 누락 된 것 같습니다.

 

image.png

소스코드 오탈자입니다.

딥러닝 pytorch encoder-decoder bert transformer

답변 2

0

권 철민

안녕하십니까,

음, 강의 영상과 제공된 실습코드가 말씀대로 일부 차이가 있군요. 말씀해 주신 부분 반영해서 해당 실습 코드 수정완료 했습니다.

감사합니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. mh hc님.

강의를 들으시면서 인코더 모델 코드에서 self.pos_dropout의 누락을 발견하신 것 같습니다. TransformerEncoderModel의 초기화 부분에서 self.pos_dropout이 적용되지 않으면, 위치 임베딩에 드롭아웃이 반영되지 않아 모델 성능에 영향을 줄 수 있습니다.

또한, TransformerSeq2SeqModel 코드에서는 부분적으로 오탈자가 있다는 점을 말씀해 주셨습니다. 코드 내의 잘못된 부분은 모델의 정상 작동을 방해할 수 있으므로 정확히 확인하고 수정하셔야 합니다.

아래와 같은 질문 및 답변들이 유사한 내용을 다루고 있을 수 있으니 참고해 보세요:

강의 내용을 정확하게 이해하고 코드에서 오류를 찾는 것은 매우 중요한 과제입니다. 발견하신 문제점에 대해 지식공유자와 공유해 주시면 더 나은 강의를 만들어 나가는 데 큰 도움이 될 것입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

강의 자료 및 코드 수령

0

29

2

기초실습 BERT파인튜닝 예제 오류

0

25

1

54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드

0

28

1

블로그에 학습 내용 올려도 되나요?

0

30

1

130_Transformer.ipynb 오류 대응 부탁드립니다.

0

38

1

[데이터 전처리] dropna에서 특정 두 지표만 기준으로 결측치를 제거한 이유가 궁금합니다

1

28

1

smithery filesystem mcp server

0

48

2

supabase url, key 값 확인방법

1

63

3

02_TENSOR.md자료

0

41

1

프로그램은 뭘 사용하시는 건가요??

1

51

2

소스코드 오탈자 입니다.

0

62

2

Embedding 모델 fine tuning 관련 질문

0

110

2

코드에 오타가 있는 것 같습니다

0

89

2

코드 오타가 있는것 같습니다.

0

93

2

트랜스포머 모델 구조에서 Encode-Decoder Attenttion에 대해서

0

98

2

트랜스포머 구조에서 블럭갯수에 대해서

0

103

2

RNN에서 출력 y에대해서..

0

76

1

embedding 값 시각화 해보기에서

0

76

1

length_penalty 부분이 없는 것 같습니다.

1

80

1

멀티 헤드 셀프 어텐션에서 Wq, Wk, Wv의 구조 관련 질문

0

108

3

MLM, NSP 구현 여부

0

101

2

bert encoding input_ids.size(1)에 대하여

0

89

2

트랜스포머 학습 강의

0

114

2

Q, K, V 초기 임베딩

0

88

1