임베딩 초기화
책과, 강의에서 임베딩을 초기화 하는 방법에 대해서 자세히 설명이 되지 않은 것 같습니다. 책에서는 재현가능하도록 하기 위해 랜덤시드를 사용한 것 같은데, 최근 트랜드는 어떤 방법을 사용하는지 궁금합니다
답변 1
0
안녕하세요. 기본적인 임베딩 초기화 방법은 랜덤 초기화입니다. 다른 모델의 임베딩을 전이하는 등 다양한 방법이 있지만 이는 책의 범위를 넘어섭니다. 이에 대한 자세한 내용은 온라인이나 관련 논문을 검색해 보시면 좋을 것 같습니다. 감사합니다!
죄송합니다. 해설 강의 관련 문의드립니다..!
0
62
2
해설강의 쿠폰 가능할까요??
0
87
3
해설강의 쿠폰 놓쳤는데, 재발급 가능할까요?
0
101
2
<CH 4.1> "LLM구조 구현하기" 장 마지막의 Logits 차원에 대한 문의
0
80
1
CH3의 맨 처음에 등장하는 '임베딩 입력 시퀀스' 텐서 값은 임의의 숫자인가요?
0
60
1
그림 4-5의 분산 값 문의드립니다.
1
69
1
챌린지 완수 조건 문의 드립니다.
0
82
2
어텐션 가중치 질문
0
45
1
해설강의 쿠폰 발행 문의
0
73
2
해설 쿠폰 관련 문의
0
49
2
쿠폰 관련 문의
0
72
3
쿠폰 관련하여 문의드립니다.
0
73
3
해설 쿠폰 관련...
0
50
2
코드 해설 강의 쿠폰 관련 문의
0
102
2
강의 쿠폰 관련 문의드립니다.
0
102
1
p63 질문
0
56
2
주차별 진도 확인하는거 어디에 있는지 알수있을까요?
0
79
2
오타 발견했어요 >_<
0
58
1
8강 부터는 영상이 안나오는게 정상인가요?
0
85
1
강의 쿠폰 문의드립니다.
0
75
2
쿠폰 재발급
0
115
4
2.1 단어 임베딩 이해하기에서 차원 얘기에서
0
133
2
4장 강의는 아직 업로드가 안된걸까요?
0
72
1
코드 2-3 출력 결과 비교
0
63
1