로드맵 코스
LLM을 체계적으로 공부하기 위한 로드맵은 기초적인 딥러닝 이해부터 실제 모델 구현 및 최적화까지 점진적으로 구성되어야 합니다. 먼저 파이썬과 텐서플로우 또는 파이토치 같은 프레임워크로 딥러닝 기초(신경망, 손실함수, 옵티마이저 등)를 다진 후, RNN, LSTM 같은 고전적인 NLP 모델들을 학습합니다. 그 후 Transformer의 구조와 Self-Attention 개념을 익히고, BERT, GPT 등 사전학습 언어모델의 원리와 차이를 비교합니다. 이후 HuggingFace Transformers 라이브러리를 활용해 사전학습된 LLM을 불러오고, Fine-tuning, Prompt Engineering, PEFT(LoRA 등) 기법을 실습합니다. 마지막으로 양자화, 압축, 추론 최적화 기술까지 접하면, 실전 적용 가능한 LLM 역량을 갖출 수 있습니다.
로드맵 상세보기
총 3개 코스
딥러닝 자연어처리 기초부터 최신모델인 Transformer와 BERT까지 딥러닝 자연어 처리(Natural Language Processing[NLP])의 원리와 활용방법을 다양한 예제와 실습 코드 구현을 통해 학습합니다.
저자
강다솔
출판
위키북스
AI 기술의 최전선에서 배우는 LLM 파인튜닝의 모든 것! 이론적 토대부터 실전 활용까지 단계별로 마스터할 수 있습니다. ◎ NLP의 역사적 발전과 역전파의 핵심 원리 마스터 ◎ GPT 모델의 심층 이해: 셀프 어텐션, 토크나이저 구현부터 실전 응용까지 ◎ Gemma 2와 Llama 3 최신 모델 분석과 GPU 병렬화 학습 ◎ LoRA, QLoRA를 활용한 파인튜닝 기법 실습 ◎ vLLM으로 실제 서비스에 적용 가능한 모델 서빙 Runpod 환경