모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기
ERROR train has failed due to an exception: TypeError: LlamaForCausalLM.__init__() got an unexpected keyword argument 'use_flash_attention_2' 안녕하세요, Autotrain library를 활용하여 fine-tuning 중 아래와 같은 에러가 발생하였는데요. 혹시 어떻게 해결할 수 있을지 궁금합니다. 제 환경에 필요한 정보가 필요하시다면 언제든지 말씀드리겠습니다. 감사드립니다.
좋은 강의 찍어주셔서 감사합니다. 해당 강의를 토대로 공부를 하며 모델을 제작 중에 학습 후 inference_detector을 돌리고 나면 같은 물체를 여러번 잡는 문제가 발생합니다. 또한 이용중인 이미지의 크기가 작아서 인지 엥커박스의 크기가 전체 화면을 잡아주는 경우가 발생하고 있습니다. 그래서 이를 방지하고자 rpn_head의 anchor_generator를 수정해보았으나 학습이 안되는 모습을 관찰하였습니다. 사용 모델 : faster_rcnn_r50_caffe_fpn_mstrain_3x_coco.py 이때 사용 이미지의 class는 1개였습니다. 어떤 식으로 이것을 수정할 수 있을까요? 또한 어디 부분의 강의를 들었을 때 이와 관련된 내용을 알 수 있을까요? 감사합니다.
예제로 배우는 딥러닝 자연어 처리 입문 NLP with TensorFlow - RNN부터 BERT까지
Bert 분류 모델을 생성 후에 해당 모델을 가지고 서비스를 하고 있습니다. 몇 가지 테스트하다 보니, 동일 input에 대해 해당 모델의 예측값이 계속 변하는거 같네요. transformer 모델은 모델이 생성된 이후에도 지속적으로 모델이 업데이트가 되게 되나요? 혹시 업데이트를 못 하게 설정도 가능한지 문의드립니다.
안녕하세요. 수업 잘 듣고 있습니다. Sentiment analysis - IMDB - part1 수업자료에서 질문이 있습니다. 지금까지 머신러닝을 배워 일하다가 llm 모델을 사용하기 시작해서 수업을 듣고있는데, 보통 머신러닝에서는 training data의 비중이 test data보다 크잖아요. (0.75:0.25 / 0.8:0.2 등등). 그런데 이 파일에서 training sentence와 test sentence의 크기가 똑같던데, 대부분의 경우 같은건가요? 그렇다면 이유는 뭔가요?
안녕하세요 강사님. 정말 좋은 강의 감사합니다. 현재 Fast R-CNN 까지의 학습을 완료한 상태입니다. 친절하고 꼼꼼한 설명덕분에, AI 에 완전히 입문입에도 불구하고 이해가 잘 되며 강의를 따라가고 있습니다. 학교 프로젝트에서 AI 역할을 맡으면서 이 강의를 수강하게 되었습니다. 제가 아예 AI 쪽에 문외한이었다보니, 강사님께서 소개해주시는 모델중에서 어떤 것을 선택해야하는지 감이 잡히지 않습니다. 최종 선택은 저의 몫이긴 하나, 강사님께서 고견을 실례를 무릅쓰고 여쭤보고 싶습니다. 저희 프로젝트에서 AI 의 역할은 다음과 같습니다. 1. 웹캠 또는 웹카메라를 이용하여 식물을 촬영 (실시간은 아니어도 되고, 하루에 한번은 촬영을 해야합니다.) 2. 해당 사진 / 영상을 통해 다음과 같은 정보를 식별 i) 잡초 여부 ii) 병충해 여부 iii) 과일이 있다면, 과일의 익은 정도 (상했는가 YES/NO 로 classfication 도 괜찮습니다.) iv) 얼만큼 자랐는가 - iv) 는 필수이고 i)~iii) 중에선 하나 정도 진행하고자 합니다. 이를 수행하기 위해선 어떤 모델을 선택하는게 좋을까요? 그리고 해당 AI 서버를 구축하기 위해선 어떤 다른 지식들이 필요한지 키워드 정도만 알려주시면 정말 감사하겠습니다. (키워드만 알려주시면 나머지 학습은 제가 하겠습니다.)
안녕하세요 교수님! keras sequence 기반 dataset에서 label을 one-hot encoding을 해주는 과정에서, pd.get_dummies 와 pd.factorize 를 소개해주셨는데.. 만약 강의에서와 달리 pd.factorize 로 인코딩하지 않고, pd.get_dummies 로 인코딩했다면 모델 생성 부분에서 마지막 layer에 output = Dense(2, activation='softmax')(x) 로 바꿔준다면 동일한 로직인 것이 맞겠죠..? 또 다른 질문으로는, 이진 분류라면 아무래도 softmax 보다는 sigmoid를 사용하는 편이 더 나은 것인지 궁금합니다! (혹시 성능적으로 더 좋을까요...?) 좋은 강의 정말 감사합니다!!