• 카테고리

    질문 & 답변

  • 세부 분야

    자연어 처리

  • 해결 여부

    미해결

bert 파인튜닝 코드 질문

22.07.03 00:09 작성 조회수 260

0

- 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!
- 먼저 유사한 질문이 있었는지 검색해보세요.
- 서로 예의를 지키며 존중하는 문화를 만들어가요.
- 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요.
 
안녕하세요 강의 잘 듣고있습니다. 다름이 아니라 수강하고나서 코드에 대한 질문이 있습니다.
1. tensorflow-text라는 패키지를 제가 찾아본 결과 text 전처리를 쉽게 하기위한 패키지라고 하는데 본 코드내에서는 패키지 사용을 하지 않더라고요 전처리할때에는 hub에서 전처리 모델을 가져와서 사용하더라고요. 그런데 왜 tensorflow-text라는 패키지를 임포트 했는지 모르겠습니다.
2. optimizer로 adamw를 사용한거 같은데 그냥 adam이 아니라 adamw를 사용한 이유가 궁금합니다. from official.nlp import optimization # to create AdamW optimizer 에서의 adamw하고 tensorflow-addons 패키지에 있는 adamw(https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/AdamW)하고 차이가 있을까요?
 
course-thumbnail

예제로 배우는 딥러닝 자연어 처리 입문 NLP with TensorFlow - RNN부터 BERT까지

답변 0

답변을 작성해보세요.

답변을 기다리고 있는 질문이에요.
첫번째 답변을 남겨보세요!

이 글과 비슷한 Q&A