jchkim55

<밑바닥부터 만들면서 배우는 LLM>(길벗, 2025)의 깃허브 노트북과 보너스 콘텐츠를 다루는 강의입니다. 깃허브: https://github.com/rickiepark/llm-from-scratch/
<밑바닥부터 만들면서 배우는 LLM>은 세바스찬 라시카(Sebastian Raschka)가 쓴 베스트셀러 <Build a Large Langauge Model (from Scratch)>(Manning, 2024)의 번역서입니다. 이 책은 오픈AI가 만든 GPT-2 모델을 밑바닥에서부터 시작해서 완전한 모델을 만들어 보면서 대규모 언어 모델의 작동 원리를 배우고 활용하는 방법을 제공합니다.

haesunpark

<밑바닥부터 만들면서 배우는 LLM> Khóa học giải thích

실습 중심

사전훈련

미세튜닝

대규모언어모델

입문

초급

중급이상

파이토치

PyTorch

gpt-2

transformer

대규모 언어 모델

파인튜닝(미세조정)

Fine-Tuning

0 Giới thiệu khóa học

1장 Hiểu về Mô hình Ngôn ngữ Lớn

Chương 2 Xử lý dữ liệu văn bản

Chương 3: Triển khai Cơ chế Attention

Chương 4: Triển khai mô hình GPT từ đầu

5장 Sử dụng dữ liệu không có nhãn để huấn luyện trước

6장 Tinh chỉnh cho phân loại

Chương 7 Tinh chỉnh để tuân theo chỉ dẫn