173만명의 커뮤니티!! 함께 토론해봐요.
미해결
LLM Finetuning : RunPod와 Multi-GPU 실습
LLM 파인튜닝을 해본적이 없어서 궁금한점이 많습니다. 현재 강의의 목적이 shakepeare 스타일의 번역이라고 하셨는데, 그러면 이 강의를 들으면 번역에만 국한 되는건지, 아니면 사용자의 질문에 대답하는 챗봇 형태 등 다른 목적이나 분야도 커버가 되는건지 궁금합니다.
미해결
처음 해보는 맞춤형 LLM 만들기 – LoRA & QLoRA 파인튜닝 입문
안녕하세요. 8월 중으로 추가 강의가 올라온다고 되어있는데 언제쯤 볼 수 있을까요? 답변 부탁드립니다. 감사합니다.
미해결
처음 해보는 맞춤형 LLM 만들기 – LoRA & QLoRA 파인튜닝 입문
OPT350 모델 페이지 링크가 GPT 링크가 동일하게 되어있어서 접속할수가 없습니다. 확인하여 주소 좀알려주시면 감사하겠습니다.
미해결
강화학습 올인원: 기초, 최신 알고리즘, 실무 활용까지
3-1 강화학습 기본 알고리즘-마르코프 결정과정 8. 마르코프 결정과정 상태 가치 함수 ---> 소스코드 없음
미해결
강화학습 올인원: 기초, 최신 알고리즘, 실무 활용까지
저는 현직 웹 개발자로, 강화학습 및 머신러닝에 평소 큰 관심이 있어서 관련 강의를 꾸준히 듣고 있습니다. 최근 강의들은 분량이 짧아 접근성은 좋은데, 수학적 표현(수식, 기호)이 등장할 때마다 의도를 즉각적으로 해석하지 못하고 혼란을 겪습니다. 강의자 분께서는 '필요한 수학적 개념은 강의 중에 그때그때 이해하면 된다'고 안내하지만, 저에게는 수학적 진입장벽이 너무 높게 느껴지고, 결국 코드의 동작 방식만 어렴풋이 이해할 뿐 수학적 본질을 놓치게 되어 데이터 분석 분야 학습에 자꾸 실패감을 경험하고, 많은 관련 강의를 듣기를 실패한 경험들이 많습니다. 실무 개발자로서 강화학습과 머신러닝을 업무에 적용하고 싶은데, 수학적 배경이 깊지 않아도 어느 정도까지는 실무 적용 가능한 수준의 이해가 가능한지 , 수학적 난관을 만났을 때 어떤 접근법과 학습 전략이 효과적인지 , 제대로 이해하고 있다는 것을 확인할 수 있는 메타인지 방법이나 공부 전략은 무엇인지 현실적이고 구체적인 조언을 부탁드립니다.
미해결
강화학습 올인원: 기초, 최신 알고리즘, 실무 활용까지
실습 스크립트 파일은 따로 제공되지 않나요?
해결됨
[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)
안녕하세요 colab 실습 강좌를 보고 따라하고 있는중 에러가 나서 질문드립니다. 모델을 로딩하고 , 토크나이저 초기화 및 설정, 새로운 토큰 추가 및 모델의 임베딩 크기 조절 과 채팅 템플릿 적용 peft 모델 가져오기 까지는 잘 진행되었습니다. trainer = SFTTrainer 생성 부분에서 tokenizer,max_seq_length, neftune_noise_alpha 인자 설정 시 에러가 발생합니다. 이부분을 주석으로 처리하면 생성은 되나 정상적으로 학습이 수행되지 않습니다. 오류 화면을 첨부합니다. 답변 주시면 감사합니다!
해결됨
[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)
안녕하세요! 강사님 강의 너무 잘들었습니다. 인터넷이 끊긴 폐쇄 환경에서 강의에서의 데모 버전을 구현하려고 합니다. 허깅페이스에서 모델을 다운받아서 진행하면 될까요?
해결됨
[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)
안녕하세요 코랩 실습 과정 중 하드웨어 가속기 선택할 때 V100이 비활성화 되어있을경우 어떤 것을 선택해야 하는지 문의 드립니다. 아울러 모델튜닝 실습 중 tokenizer.default_chat_template 부분에서 에러가 뜨는데 다음 단계로 넘어갈 수 있도록 하는 방법이 있을까요? 이후 패스하고 넘어간다고 해도 PEFT - LoRA부분에서도 에러가 뜹니다. 혹시 위 부분에서 pip install flash-attn===1.0.4 부분을 처리하지 않아서 오류가 난 것일까요?
미해결
[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)
모든걸 잘 따라 했는데 아래와 같은 에러가 나네요,,, 윈도우10 환경 입니다.
