강의

멘토링

로드맵

로드맵 썸네일

LLM 로드맵

작성자 프로필 이미지

Justin Park

딥러닝
Tensorflow
PyTorch

초급 대상

로드맵 참여중인 유저 프로필 사진
로드맵 참여중인 유저 프로필 사진

3명 참여중

조회수

384

로드맵 코스

LLM을 체계적으로 공부하기 위한 로드맵은 기초적인 딥러닝 이해부터 실제 모델 구현 및 최적화까지 점진적으로 구성되어야 합니다. 먼저 파이썬과 텐서플로우 또는 파이토치 같은 프레임워크로 딥러닝 기초(신경망, 손실함수, 옵티마이저 등)를 다진 후, RNN, LSTM 같은 고전적인 NLP 모델들을 학습합니다. 그 후 Transformer의 구조와 Self-Attention 개념을 익히고, BERT, GPT 등 사전학습 언어모델의 원리와 차이를 비교합니다. 이후 HuggingFace Transformers 라이브러리를 활용해 사전학습된 LLM을 불러오고, Fine-tuning, Prompt Engineering, PEFT(LoRA 등) 기법을 실습합니다. 마지막으로 양자화, 압축, 추론 최적화 기술까지 접하면, 실전 적용 가능한 LLM 역량을 갖출 수 있습니다.

로드맵 상세보기

3개 코스

로드맵에 포함된 강의 썸네일
인프런
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기
LLM(Large Language Model)의 기초 개념부터 고성능 LLM인 Llama 2 모델을 내가 원하는 데이터셋에 Fine-Tuning하는 방법까지 차근차근 학습합니다.

88,000

로드맵에 포함된 도서 썸네일

저자

강다솔

출판

위키북스

AI 기술의 최전선에서 배우는 LLM 파인튜닝의 모든 것! 이론적 토대부터 실전 활용까지 단계별로 마스터할 수 있습니다.  ◎ NLP의 역사적 발전과 역전파의 핵심 원리 마스터 ◎ GPT 모델의 심층 이해: 셀프 어텐션, 토크나이저 구현부터 실전 응용까지 ◎ Gemma 2와 Llama 3 최신 모델 분석과 GPU 병렬화 학습 ◎ LoRA, QLoRA를 활용한 파인튜닝 기법 실습 ◎ vLLM으로 실제 서비스에 적용 가능한 모델 서빙  Runpod 환경

로드맵 코스 3