cyt97726188

『ゼロから作って学ぶLLM』（ギルボット、2025）のGitHubノートブックとボーナスコンテンツを扱う講義です。GitHub: https://github.com/rickiepark/llm-from-scratch/
『ゼロから作って学ぶLLM』は、セバスチャン・ラシュカ（Sebastian Raschka）が書いたベストセラー『Build a Large Language Model (from Scratch)』（Manning、2024）の翻訳書です。この本は、OpenAIが作ったGPT-2モデルをゼロから始めて完全なモデルを作ってみながら、大規模言語モデルの動作原理を学び活用する方法を提供します。

haesunpark

<밑바닥부터 만들면서 배우는 LLM> 解説講義

실습 중심

사전훈련

미세튜닝

대규모언어모델

입문

초급

중급이상

파이토치

PyTorch

gpt-2

transformer

대규모 언어 모델

파인튜닝(미세조정)

Fine-Tuning

0 講義紹介

1章 大規模言語モデルの理解

2章 テキストデータの扱い方

3章 アテンションメカニズムの実装

4章 ゼロからGPTモデルを実装する

5章 ラベルのないデータを活用した事前訓練

6章 分類のためのファインチューニング

7章 指示に従うように微調整する