eungjin kim

<밑바닥부터 만들면서 배우는 LLM>(길벗, 2025)의 깃허브 노트북과 보너스 콘텐츠를 다루는 강의입니다. 깃허브: https://github.com/rickiepark/llm-from-scratch/
<밑바닥부터 만들면서 배우는 LLM>은 세바스찬 라시카(Sebastian Raschka)가 쓴 베스트셀러 <Build a Large Langauge Model (from Scratch)>(Manning, 2024)의 번역서입니다. 이 책은 오픈AI가 만든 GPT-2 모델을 밑바닥에서부터 시작해서 완전한 모델을 만들어 보면서 대규모 언어 모델의 작동 원리를 배우고 활용하는 방법을 제공합니다.

박해선

<밑바닥부터 만들면서 배우는 LLM> 깃허브 + 보너스 콘텐츠 해설

실습 중심

사전훈련

미세튜닝

대규모언어모델

『ゼロから作って学ぶLLM』（ギルボット、2025）のGitHubノートブックとボーナスコンテンツを扱う講義です。GitHub: https://github.com/rickiepark/llm-from-scratch/
『ゼロから作って学ぶLLM』は、セバスチャン・ラシュカ（Sebastian Raschka）が書いたベストセラー『Build a Large Language Model (from Scratch)』（Manning、2024）の翻訳書です。この本は、OpenAIが作ったGPT-2モデルをゼロから始めて完全なモデルを作ってみながら、大規模言語モデルの動作原理を学び活用する方法を提供します。

haesunpark

입문

초급

중급이상

파이토치

PyTorch

gpt-2

transformer

대규모 언어 모델

파인튜닝(미세조정)

Fine-Tuning

<ゼロから作って学ぶLLM> GitHub + ボーナスコンテンツ解説

0 講義紹介

1章 大規模言語モデルの理解

2章 テキストデータの扱い方

3章 アテンションメカニズムの実装

4章 ゼロからGPTモデルを実装する

5章 ラベルのないデータを活用した事前訓練

6章 分類のためのファインチューニング

7章 指示に従うように微調整する