173만명의 커뮤니티!! 함께 토론해봐요.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
안녕하세요 강사님, 공지를 늦게 확인하고 쿠폰을 확인하지 못해 문의 남깁니다. 이전 문의 글들을 보니 가입한 이메일로 지난주 및 이번주에 쿠폰이 지급될 것이라 안내 해 주셨더라구요. 하지만 저 같은 경우 지난주에도 메일이 오지 않았고 현재도 수신된 메일이 없기에 확인할 수 있는 방법이 있을지 문의 드립니다. 감사합니다!
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
안녕하세요. 교재 63페이지에 “다음으로 조금 더 흥미로운 텍스트 구절을 만들기 위해 데이터셋에 있는 처음 50개 토큰을 삭제합니다.”라는 문장이 있습니다. 이때 ‘흥미로운’이라는 표현이 어떤 의미를 가지는지, 그리고 텍스트를 더 흥미롭게 만들기 위해 앞의 50개 토큰을 삭제하는 이유가 무엇인지 궁금합니다. 또한 다른 LLM 모델에서도 이와 같은 전처리 과정을 수행하는지, 만약 수행한다면 그 이유가 궁금합니다. 감사합니다.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
추석이 쭈욱 지나가서 ㅠㅠ 2주차에는 무엇을해야할까요?? 카카오오픈채팅방도 있다던데 어디서 확인 할 수 있는지 알고싶습니다.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 해설 강의
챕터 4 밑바닥부터 GPT 모델 구현하기 강의가 선택해도 강의가 나오지 않는 것은, 아직 등록이 되지 않아서 그런건지 문의드립니다.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
책과, 강의에서 임베딩을 초기화 하는 방법에 대해서 자세히 설명이 되지 않은 것 같습니다. 책에서는 재현가능하도록 하기 위해 랜덤시드를 사용한 것 같은데, 최근 트랜드는 어떤 방법을 사용하는지 궁금합니다
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
강의와는 상관없지만, 번역자님의 강의라서 표시해봅니다. 249페이지 model_state_dict = troch.load("review_classifier.pth, map_location=device") --> model_state_dict = troch.load("review_classifier.pth", map_location=device) 255페이지 url 에 오타 rickipark -> rickiepark url = ( ' https://raw.githubusercontent.com/rickiepark/llm-from-scratch ' '/main/ch07/01_main-chapter-code/instruction-data.json' )
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
8강 부터는 영상이 안나오는게 정상인가요?
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
안녕하세요. 강사님 강의 쿠폰을 받으려면 어떻게 해야 하는지 문의드립니다. 10월 6일 발급된다고 봤는데, 쿠폰함에 이력도 안남아 있어서요. 확인 부탁드립니다! 감사합니다.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
안녕하세요. 연휴에 공지 확인을 제대로 못해서 쿠폰 등록을 놓쳤는데, 혹시 재발급 가능할까요?
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
7:40초 즈음에 GPT3가 768 차원이라고 하셨는데 책에는 GPT2가 768차원 , GPT3가 12,288차원인데 어떤 설명이 맞는걸까요
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
추석 연휴에 완독 목표로 하루에 한장씩 도전중입니다. 4장부터는 강의가 안보이는데, 아직 등록이 안된걸까요?
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
안녕하세요. 코드 2-3의 SimpleTokenizerV1을 실행한 결과에 대해 문의드립니다. 아래 코드를 실행해보니 원문 text와 decode로 복원한 text가 조금 다릅니다. 원문과 복원한 text가 다르면 문제가 있을지 문의드립니다. class SimpleTokenizerV1: def __init__(self, vocab): self.str_to_int = vocab self.int_to_str = {i:s for s,i in vocab.items()} def encode(self, text): preprocessed = re.split(r'([,.:;?_!"()\']|--|\s)', text) # 'hello,. world' preprocessed = [ item.strip() for item in preprocessed if item.strip() ] ids = [self.str_to_int[s] for s in preprocessed] return ids def decode(self, ids): text = " ".join([self.int_to_str[i] for i in ids]) # 구둣점 문자 앞의 공백을 삭제합니다. text = re.sub(r'\s+([,.?!"()\'])', r'\1', text) return text tokenizer = SimpleTokenizerV1(vocab) text = """"It's the last he painted, you know," Mrs. Gisburn said with pardonable pride.""" ids = tokenizer.encode(text) print(text) print(ids) print(tokenizer.decode(ids)) "It's the last he painted, you know," Mrs. Gisburn said with pardonable pride. [1, 56, 2, 850, 988, 602, 533, 746, 5, 1126, 596, 5, 1, 67, 7, 38, 851, 1108, 754, 793, 7] " It' s the last he painted, you know," Mrs. Gisburn said with pardonable pride.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
<밑바닥부터 만들면서 배우는 LLM> 코드 해설 강의 (10월 6일 무료 쿠폰 일괄 지급) 쿠폰은 어디서 확인하면 되는지 문의드립니다.
해결됨
<밑바닥부터 만들면서 배우는 LLM> 해설 강의
Chapter2에서 슬라이딩 윈도우 만들때 stride를 128로 했는데요, 타깃은 인풋 마지막 토큰의 다음번째 토큰을 예측 하기 위해 for문을 돌면서 첫번째 타깃은 2번째 토큰, 다음은 3번째 토큰.. 이런식으로 되는걸로 아는데 갑자기 128로 건너 뛰는 이유는 무엇인지요?
해결됨
알고리즘 트레이딩의 비밀, AI가 주가를 맞추는 법
4강부터 갑자기 스크립트 프로그램이 나오고 코딩을 시작하는데, 파이썬을 한번도 써본적이 없어서요. 사전에 뭘 설치해야 되나요? 동일한 프로그램 동일한 화면에서 따라하고 싶어서요. 파이썬에 대한 기초 강의나 설명 노트는 없는건가요?
해결됨
<밑바닥부터 만들면서 배우는 LLM> 완독 챌린지
LLM 도서구매는 개별적으로 하면 되는지요?
미해결
[VLM101] 파인튜닝으로 멀티모달 챗봇 만들기 (feat.MCP / RunPod)
# 모델을 로드하는 코드 model_id = "/work/checkpoints/hf/Qwen2.5-VL-3B-Instruct" # 사용할 모델 경로 지정 model_org = Qwen2_5_VLForConditionalGeneration.from_pretrained( model_id, # 모델 경로로부터 모델 불러오기 device_map="auto", # 자동으로 장치 설정 (예: GPU 사용) torch_dtype=torch.bfloat16, # 모델의 데이터 타입을 bfloat16으로 설정 (메모리 최적화) ) processor = AutoProcessor.from_pretrained(model_id) # 모델에 맞는 processor 불러오기 ==> 질문 사항 (2개) 질문1) 위 코드에 동일한 모델을 model_org 와 processor 로 정의한 거 같은데 왜 이렇게 정의한 이유는 무엇인가요? 질문2) datacollator 는 모델마다 정의하는 방법이 다른 거 같은데 현재 샘플로 주신 모델은 어디를 참고해야 하나요?
해결됨
알고리즘 트레이딩의 비밀, AI가 주가를 맞추는 법
DB에 데이터를 관리하지 않고 csv 파일로 관리 하는 이유가 뭔지 궁금합니다. 데이터가 방대해서 처리 하기가 힘들어서 그런건가요?
미해결
생성형 AI 기초와 동작 원리 이해
안녕하세요, 쥬피터노트북 접속 후 python 연결하려고 클릭하였으나 kernel unknown 으로 연결 실패가 뜹니다. 어떻게 연결가능한지 확인요청드려요.
해결됨
알고리즘 트레이딩의 비밀, AI가 주가를 맞추는 법
안녕하세요, 수업 잘 듣고 있습니다. 아직 초반이지만, 오직 미장에 초점이 맞춰져 있어서 국장에는 적용을 하기 위해 어떻게 변화를 주어야 할지 모르겠습니다. 파이썬이나 이런 프로그램 사용에 있어 초보라 무지한데 국내 시장용으로 제작을 하려면 API키를 어디서 가져와야 정확한지, 지표는 모든 지표를 국내에 맞게 어떻게 가져오고 수정해야 하는건지 잘 모르겠습니다. 수강전 문의란에서 국내 시장에 적용하고 싶은 다른 문의자 분을 보았습니다. 답변에 강의를 들으면 충분히 국장에도 적용 가능할거라고 해서 구입했는데 어려워보여요... 혹시 국내 시장에 맞추기 위해서는 어떻게 해야하는지 국내용 강의를 제작해주실 예정은 없나요? 혹은 첨부된 Github파일에서 어떻게 수정해야 하는지 도움을 주실 수 있을까요? 미국 시장과 국내 시장 모두 적용하고 싶은 저와 같은 사람들이 많이 있을텐데 국내시장 적용도 도와주시면 감사하겠습니다.
