임베딩 초기화
책과, 강의에서 임베딩을 초기화 하는 방법에 대해서 자세히 설명이 되지 않은 것 같습니다. 책에서는 재현가능하도록 하기 위해 랜덤시드를 사용한 것 같은데, 최근 트랜드는 어떤 방법을 사용하는지 궁금합니다
답변 1
0
안녕하세요. 기본적인 임베딩 초기화 방법은 랜덤 초기화입니다. 다른 모델의 임베딩을 전이하는 등 다양한 방법이 있지만 이는 책의 범위를 넘어섭니다. 이에 대한 자세한 내용은 온라인이나 관련 논문을 검색해 보시면 좋을 것 같습니다. 감사합니다!
죄송합니다. 해설 강의 관련 문의드립니다..!
0
54
2
해설강의 쿠폰 가능할까요??
0
80
3
해설강의 쿠폰 놓쳤는데, 재발급 가능할까요?
0
82
2
<CH 4.1> "LLM구조 구현하기" 장 마지막의 Logits 차원에 대한 문의
0
75
1
CH3의 맨 처음에 등장하는 '임베딩 입력 시퀀스' 텐서 값은 임의의 숫자인가요?
0
53
1
그림 4-5의 분산 값 문의드립니다.
1
64
1
챌린지 완수 조건 문의 드립니다.
0
78
2
어텐션 가중치 질문
0
43
1
해설강의 쿠폰 발행 문의
0
70
2
해설 쿠폰 관련 문의
0
44
2
쿠폰 관련 문의
0
59
3
쿠폰 관련하여 문의드립니다.
0
66
3
해설 쿠폰 관련...
0
40
2
코드 해설 강의 쿠폰 관련 문의
0
93
2
강의 쿠폰 관련 문의드립니다.
0
95
1
p63 질문
0
51
2
주차별 진도 확인하는거 어디에 있는지 알수있을까요?
0
72
2
오타 발견했어요 >_<
0
53
1
8강 부터는 영상이 안나오는게 정상인가요?
0
74
1
강의 쿠폰 문의드립니다.
0
68
2
쿠폰 재발급
0
97
4
2.1 단어 임베딩 이해하기에서 차원 얘기에서
0
118
2
4장 강의는 아직 업로드가 안된걸까요?
0
65
1
코드 2-3 출력 결과 비교
0
58
1