bert 파인튜닝 코드 질문
397
kin44962542
投稿した質問数 1
0
- 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!
- 먼저 유사한 질문이 있었는지 검색해보세요.
- 서로 예의를 지키며 존중하는 문화를 만들어가요.
- 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요.
- 먼저 유사한 질문이 있었는지 검색해보세요.
- 서로 예의를 지키며 존중하는 문화를 만들어가요.
- 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요.
안녕하세요 강의 잘 듣고있습니다. 다름이 아니라 수강하고나서 코드에 대한 질문이 있습니다.
1. tensorflow-text라는 패키지를 제가 찾아본 결과 text 전처리를 쉽게 하기위한 패키지라고 하는데 본 코드내에서는 패키지 사용을 하지 않더라고요 전처리할때에는 hub에서 전처리 모델을 가져와서 사용하더라고요. 그런데 왜 tensorflow-text라는 패키지를 임포트 했는지 모르겠습니다.
2. optimizer로 adamw를 사용한거 같은데 그냥 adam이 아니라 adamw를 사용한 이유가 궁금합니다. from official.nlp import optimization # to create AdamW optimizer 에서의 adamw하고 tensorflow-addons 패키지에 있는 adamw(https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/AdamW)하고 차이가 있을까요?
NLP
tensorflow
딥러닝
回答 0
20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.
0
20
1
수업자료
0
23
2
가중치에 대한 질문
0
107
1
transformer 기계번역 강의 오류 질문
0
155
2
seq2seq를_이용한_NMT.ipynb 실습코드 에러 문의사항입니다.
0
254
2
실습 2 - Char-RNN 코드 학습 부분에서 오류가 발생합니다.
0
277
2
pad_both_ends 사용할 때 n은 왜 사용하나요?
1
206
2
트레이닝 에러 발생
0
335
2
트랜스포머 인코더 레이어 테스트 에러
0
219
1
9강 BERT 실습 예제 코드
0
465
1
Bert 관련 문의
0
336
2
코랩에서 실행이 안됩니다
0
1126
1
bert를 이용해서 ocr 시스템을 만들려면 어떻게 해야 할까요 ?
0
787
1
소스코드 실행 시 에러
0
565
2
N-gram_example
1
808
1
BERT를 이용한 텍스트 분류에서 다중분류라면 어떻게 해야할까요?
1
1524
1
개인 깃허브 소스코드 업로드 가능할까요?
0
331
1
#@title Choose a BERT model to fine-tune
0
370
1
nltk모듈 MLE의 score메서드 계산 질문드립니다.
0
202
0
네이버 영화리뷰 파인튜닝 질문드려요
0
306
1
코드 실행 오류
0
316
1
bert를 이용한 텍스트 분류 imdb 편 질문드립니다.
0
355
1
안녕하세요. 강의 잘듣고있습니다!
0
278
1
강의 자료는 어디있나요(자연어 처리)
0
333
1