<From Scratch: Building and Learning LLMs> Commentary Lecture
This is a course covering the GitHub notebooks and bonus content from <Build a Large Language Model from Scratch> (Gilbut, 2025). GitHub: https://github.com/rickiepark/llm-from-scratch/ <Build a Large Language Model from Scratch> is the Korean translation of the bestseller <Build a Large Language Model (from Scratch)> (Manning, 2024) by Sebastian Raschka. This book provides a way to learn and utilize the operating principles of large language models by building a complete model starting from scratch with OpenAI's GPT-2 model.
528 learners
Level Basic
Course period Unlimited
- Unresolved
바흐다나우 어텐션을 시작하게 된 이유가 궁금해요!
바흐다나우 어텐션에서 모든 입력 토큰을 참조하는 이유와 그로인한 바흐다나우 어텐션 장점이 무엇인지 궁금해요! <p style="text-align: l
pytorchgpt-2transformerllmfine-tuninggeonc1235780
・
2 months ago
0
39
2
- Resolved
누적입력에서 겹치는 방식으로 넘어간 이유
앞 텍스트들로 다음 단어 하나를 예측한다고 했는데, 왜 슬라이딩 윈도에서는 입력과 타깃이 겹쳐져있는건가요?또한 앞 텍스트부터 누적한 다음, 타깃 한 단어만 예측하
pytorchgpt-2transformerllmfine-tuninggunbam7156384
・
3 months ago
0
64
2
- Resolved
인증 하는 방법
안녕하세요 챌린지 열심히 하고 있는 수강생입니다다름이 아니라 이 챌린지를 성공하면 길벗 포인트를 받을 수 있다고 본 거 같은데<p style="text-a
pytorchgpt-2transformerllmfine-tuningmaris1695455
・
4 months ago
0
69
2
- Resolved
7장 3절 이후는 언제 올리나요?
곧 7장을 들어가는데 7장 2절까지만 강의가 있고 그 이후에는 아직 없는 것 같아서 7장 2절 이후의 강의는 언제 올리는 지 궁금해서 문의 드립니다
pytorchgpt-2transformerllmfine-tuninglshmbc15271
・
4 months ago
0
60
3
- Resolved
2.2 텍스트 토큰화 하기 강의 질문
영상 초반에서 말씀하시는 "이전 영상"이 어떤 영상인지 궁금합니다.
pytorchgpt-2transformerllmfine-tuninghyejeekim972681
・
4 months ago
0
46
1
- Resolved
Chapter1에서 말하는 "모델"이 정확히 어떤건가요?
LLM의 모델이나 파운데이션 모델 이런 말에서 쓰는 "모델"이라는 단어가 정확히 어떤 뜻인지 궁금합니다.
pytorchgpt-2transformerllmfine-tuninghyejeekim972681
・
4 months ago
0
43
2
- Resolved
챌린지 쿠폰 재 발급 가능 여부 확인 드립니다.
안녕하세요.보내주신 챌린지 쿠폰을 오늘 확인했습니다.기한이 지나 사용이 불가한데<p style="
pytorchgpt-2transformerllmfine-tuningourbin10042844
・
4 months ago
0
66
3
- Resolved
gpt_download 관련 오류 질의입니다.
5.5 실습진행하면서 오류가 발생해서 문의 드립니다.주피터 노트북 진행 환경 입니다.<img src="https://cd
pytorchgpt-2transformerllmfine-tuningourbin10042844
・
4 months ago
0
63
2
- Resolved
책관련 질문입니다.
안녕하세요.저작하신 책을 읽어 보고 싶어 검색해 보고궁금증이 생겨 질문드립니다. <
pytorchgpt-2transformerllmfine-tuningourbin10042844
・
5 months ago
0
45
2
- Resolved
챕터 4 밑바닥부터 GPT 모델 구현하기 강의 업로드 문의드립니다.
챕터 4 밑바닥부터 GPT 모델 구현하기 강의가선택해도 강의가 나오지 않는 것은, 아직 등록이 되지 않아서 그런건지 문의드립니다.
pytorchgpt-2transformerllmfine-tuningredinblue6136
・
5 months ago
0
77
2
- Resolved
슬라이딩 윈도우를 위해 for Loop 만들시 stride 관련 질문
Chapter2에서 슬라이딩 윈도우 만들때 stride를 128로 했는데요, 타깃은 인풋 마지막 토큰의 다음번째 토큰을 예측 하기 위해 for문을 돌면서 첫번째 타깃은 2번째 토큰, 다음은 3번째 토큰.. 이런식으로 되
pytorchgpt-2transformerllmfine-tuningjaehlee36638425
・
5 months ago
0
84
2

