Inflearn brand logo image
Inflearn brand logo image
Inflearn brand logo image
NEW
AI Development

/

Deep Learning & Machine Learning

Tạo LLM tùy chỉnh – Thực hành nhập môn Fine-tuning LoRA & QLoRA

"Khóa học thực hành nhập môn tạo LLM tùy chỉnh chuyên biệt theo lĩnh vực với fine-tuning nhẹ dựa trên LoRA!" LLM tùy chỉnh, giờ đây bạn có thể tự tạo ra được. Khóa học này được thiết kế để bạn có thể học cách tạo LLM chuyên biệt theo lĩnh vực một cách dễ dàng thông qua thực hành fine-tuning nhẹ dựa trên LoRA, không cần lý thuyết phức tạp. Để ngay cả những người mới bắt đầu làm việc với LLM cũng có thể theo kịp, chúng tôi sẽ hướng dẫn từng bước toàn bộ quy trình từ tải mô hình → đưa dữ liệu vào → huấn luyện → so sánh kết quả. Hãy thực hành và làm quen với kỹ thuật mới nhất để tạo ra LLM chuyên biệt cho lĩnh vực cụ thể ngay cả với tài nguyên ít!

(4.9) 10 đánh giá

162 học viên

  • leejinkyu0612
파인튜닝
맞춤형llm
도메인특화
llm성능평가및튜닝
llm
Deep Learning(DL)
NLP
AI
LLM
Fine-Tuning

Đánh giá từ những học viên đầu tiên

Dịch cái này sang tiếng Việt

  • Quá trình hoàn chỉnh để tinh chỉnh sLLM (Small Language Model) thông qua fine-tuning nhẹ dựa trên LoRA

  • Cách thực hành trực tiếp để tạo ra LLM tùy chỉnh theo domain chuyên biệt cho lĩnh vực cụ thể

  • Phương pháp áp dụng các kỹ thuật mới nhất (PEFT, LoRA, v.v.) giúp tinh chỉnh LLM hiệu quả với ít tài nguyên

Mô hình ngôn ngữ lớn (LLM), bạn có muốn tự tay tạo ra một mô hình phù hợp với lĩnh vực của mình không?

LLM giờ đây là thời đại mà ai cũng có thể dễ dàng tiếp cận. Tuy nhiên, vẫn có nhiều người cảm thấy bối rối trước câu hỏi "Liệu tôi có thể tự tạo ra một LLM chuyên biệt cho lĩnh vực của mình không?".

Khóa học này là một khóa học nhập môn tập trung vào thực hành dành cho những người như vậy.
Đặc biệt, khóa học sử dụng kỹ thuật fine-tuning nhẹ dựa trên LoRA để cung cấp kinh nghiệm thực tế trong việc tạo ra LLM chuyên biệt cho lĩnh vực cụ thể ngay cả với ít tài nguyên.


(Tham khảo) Khóa học này hiện đã tải lên khoảng 70% và dự kiến trong vòng 1 tháng sẽ bổ sung thêm các bài giảng về fine-tuning các mô hình mới nhất như llama3 và so sánh kết quả rag finetuning.


Đặc điểm của khóa học này

📌Giải thích từ cơ bản các kỹ thuật fine-tuning nhẹ mới nhất như LoRA, QLoRA, PEFT

📌Thực hành áp dụng trên các mô hình đa dạng như GPT2, BERT, OPT350M

📌Cấu trúc bao gồm cả phân tích so sánh hiệu suất Full Finetuning vs. LoRA

📌Cấu trúc từng bước mà ngay cả người mới bắt đầu lần đầu tiếp xúc cũng có thể dễ dàng theo kịp

📌Bao gồm thực hành framework dựa trên Huggingface, PyTorch

Tôi khuyến nghị cho những người như thế này

Đã thử ChatGPT nhưng muốn tự tay tinh chỉnh với dữ liệu của mình - dành cho developer mới vào nghề

Nhà phát triển AI mới bắt đầu muốn hiểu LLM thông qua thực hành thực tế

Startup/nhà phát triển cá nhân muốn tạo LLM tùy chỉnh dựa trên kiến thức riêng
Những người muốn tạo LLM chuyên biệt với dữ liệu từ các lĩnh vực cụ thể như trung tâm chăm sóc khách hàng, pháp luật, y tế, giáo dục

Người mới bắt đầu với LLM đã từng nghe về LoRA, QLoRA nhưng không biết chúng là gì
Không cần lý thuyết phức tạp, bạn có thể tự nhiên làm quen với khái niệm fine-tuning nhẹ thông qua thực hành.

Sau khi hoàn thành khóa học

  • Hiểu được cấu trúc và khái niệm của LoRA, có thể áp dụng trực tiếp vào các mô hình khác nhau.

  • Bạn sẽ có được toàn bộ quy trình và kinh nghiệm thực hành để tạo ra LLM chuyên biệt cho lĩnh vực của mình.

  • Bạn sẽ so sánh trực tiếp kết quả fine-tuning và phát triển nhãn quan để tự mình lựa chọn chiến lược phù hợp.

  • Bạn sẽ có thể nắm bắt được cảm giác về việc phát triển LLM dựa trên kiến thức chuyên môn của riêng mình.


Chúng ta sẽ học những nội dung như thế này.

Hiểu các khái niệm cơ bản về Fine-tuning

  • Học nguyên lý fine-tuning để tối ưu hóa LLM đã được pre-train cho phù hợp với domain của tôi.


Hiểu cấu trúc LoRA & QLoRA

  • Không cần lý thuyết phức tạp, hãy hiểu dễ dàng nguyên lý cốt lõi của fine-tuning nhẹ.


So sánh hiệu suất Full vs. LoRA

  • Trải nghiệm sự khác biệt về hiệu suất theo phương pháp fine-tuning thông qua thí nghiệm.


Cách sử dụng Huggingface + PyTorch

  • Học các framework cần thiết cho việc fine-tuning LLM thực tế.

Người tạo ra khóa học này

Xin chào, tôi là
Đại diện Happy AI Lee Jin Kyu, người nghiêm túc với thực tiễn AI tạo sinh và fine-tuning LLM.

Tốt nghiệp chuyên ngành xử lý ngôn ngữ tự nhiên và LLM tại trường đại học AI, sau đó
thực hiện hơn 200 dự án AI·RAG cùng với Samsung Electronics, Đại học Seoul, Tập đoàn Điện lực Hàn Quốc và nhiều tổ chức khác
tích lũy kinh nghiệm thực tế trong việc xây dựng Private LLM, fine-tuning, multimodal RAG và nhiều lĩnh vực khác.

Đặc biệt gần đây, tôi đang tiến hành nhiều
khóa học thực hành về LangChain, RAG, Agent LLM cho các doanh nghiệp và cơ quan công quyền khác nhau.

Khóa học này,
❝ Được thiết kế để người mới bắt đầu cũng có thể thực hiện fine-tuning dựa trên LoRA mà không cần lý thuyết phức tạp ❞
Dựa trên vô số kinh nghiệm thực tế, được thiết kế theo cấu trúc học tập thông qua việc trực tiếp thao tác với mô hình.


📌 Tóm tắt lý lịch chính

  • 2024~ Đại diện HappyAI (Vận hành doanh nghiệp chuyên về AI tạo sinh·RAG)

  • Hoàn thành chương trình Tiến sĩ Thạc sĩ AI (chuyên ngành LLM & xử lý ngôn ngữ tự nhiên)

  • Nhà báo chuyên mục AI của PublicNews (Viết chuyên mục về LLM, vấn đề thiên vị, v.v.)

  • Tổng cộng có hơn 200 dự án thực tế về LLM·RAG


📚 Ví dụ về bài giảng và hoạt động

  • KT – Khóa học phát triển Agent LLM dựa trên LLM

  • Samsung SDS – Bài giảng thực hành LangChain & RAG

  • Seoul Digital Foundation – Lý thuyết LLM và Phát triển Chatbot RAG

Ngoài ra, nhiều doanh nghiệp khác cũng tiến hành các khóa học về LLM và Big Data


🔗 Liên kết liên quan

Những lưu ý trước khi học

Môi trường thực hành

  • Tất cả mã thực hành được cung cấp dựa trên Google Colab


  • Tài liệu tham khảo và ghi chú đã được tổng hợp sẽ được hướng dẫn thông qua liên kết.

Tài liệu học tập

  • Tôi sẽ cung cấp qua liên kết Notion!

Kiến thức tiên quyết và lưu ý

  • Cú pháp cơ bản Python


  • Kiến thức cơ bản về AI và LLM (sẽ tốt nếu bạn biết lý thuyết cơ bản về LLM.)

  • Có thể học chỉ cần trình duyệt Chrome và tài khoản Google

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Người mới bắt đầu với LLM đã từng nghe về ChatGPT hoặc các mô hình GPT nhưng chưa bao giờ trực tiếp fine-tuning

  • Các nhà phát triển hoặc nhà nghiên cứu muốn tạo ra LLM tùy chỉnh chuyên biệt cho các lĩnh vực cụ thể (ví dụ: pháp lý, tài chính, y tế, v.v.)

  • Những bạn muốn fine-tuning sLLM

Cần biết trước khi bắt đầu?

  • Cú pháp cơ bản của Python (biến, hàm, câu lệnh điều kiện, v.v.)

  • Các khái niệm cơ bản về deep learning (hiểu biết cơ bản về mô hình, học tập, hàm mất mát, v.v.)

  • Sẽ có ích nếu bạn có kinh nghiệm sử dụng PyTorch hoặc Colab

Xin chào
Đây là

3,643

Học viên

130

Đánh giá

46

Trả lời

4.6

Xếp hạng

10

Các khóa học

안녕하세요 AI와 빅데이터 분석에 진심인 해피AI 이진규입니다.

[강사약력]

이진규 (Lee JinKyu)

해피AI (Happy AI CEO)

생성 AI 및 빅데이터 분석 분야의 최신 트렌드, 인사이트, 기술 활용 방법을 깊이 있게 전달합니다.

 

🎒  강연 및 외주 문의

[email] leejinkyu0612@naver.com

[Blog] 📺https://blog.naver.com/leejinkyu0612

[YouTube] 📺 https://www.youtube.com/@HappyAI_0612

[github] https://github.com/leejin-kyu/

[Homepage] https://happyaidata.kr

[H.P] 010-9973-2113

[kakao] jinkyu0612

 

📘 크몽 Prime 전문가(상위 2%)📺https://kmong.com/gig/345782

 삼성전자, 서울대, 교육청, 경기연구원, 산림청, 국립공원관리공단, 서울시 등 다수의 정부기관 및 교육기관 프로젝트 진행

의료,커머스,생태,법학,경제,예체능 등 다양한 도메인의 연구경험(총 연구 프로젝트 200회 이상 진행)

 

📘 Bio

- 2024.07~ 생성 AI 및 빅데이터 분석 전문기업 해피AI 대표

- 2023~ 퍼블릭 뉴스 AI 칼럼니스트(AI편향 및 RAG챗봇 전문)

- 2022. AI대학원 박사과정 수료(자연어처리 및 LLM 전공)

- 2021~2023 AI/빅데이터 전문 기업 스텔라비전 개발자

- 2018~2021 정부출연연구기관 자연어처리/빅데이터 분석 연구원 (인문사회과학 데이터 연구)

 

🎒Courses & Activities

 

2025

LLM/sLLM 애플리케이션 개발 강의-파인튜닝, RAG, Agent 기반 . KT(2025)

 

2024

Langchain 및 RAG 등 LLM 프로그래밍.삼성SDS(2024)

ChatGPT 기반 빅데이터 분석 입문. 렛유인에듀 (2024)

인공지능 기초 및 데이터 분석 기초 강의. 한국직업개발원 (2024)

LLM 실무자를 위한 LLM이론 및 Langchain 기반 RAG챗봇 개발 강의. 서울디지털 재단 (2024)

쉽게 따라하는 LDA & 감성분석 빅데이터분석법 with ChatGPT. 인프런 (2024)

파이썬을 활용한 텍스트 분석 강의. 서울과학기술대학교 (2024)

랭체인(LangChain)을 활용한 LLM 챗봇 만들기(feat.ChatGPT). 인프런 (2024)

 

2023

ChatGPT를 활용한 파이썬 기초 강의. 경기대학교 (2023)

빅데이터 전문가 과정 특강. 단국대학교 (2023)

빅데이터 분석 기초 강의. 렛유인에듀 (2023)

 

 

💻 Projects

LLM 기반 산림 복원 빅데이터 분석(국립산림과학원)

Private LLM 기반 RAG 챗봇 모델 구축 (한국전력공사)

AI 기반 빅데이터 분석 기법을 적용한 설문 데이터 분석 (A정부기관)

내부망 전용 PrivateLLM을 활용한 텍스트마이닝 솔루션 개발 (D 정부기관)

빅데이터 분석을 통한 한우시장 트렌드 분석 (이화브리오)

Instruction Tuning 및 강화학습(RLHF)을 통한 LLM 모델 개발 (서울디지털재단)

AI 언어모델 기반 헬스케어 서비스의 사용자 리뷰 텍스트 분석 (삼성전자)

자연어 처리 기술 기반 텍스트마이닝을 활용한 연구동향 분석 (한국대기환경학회)

AI 모델 kopatBERT 기반 특허 논문 QA 모델 개발 (한국기술마켓)

딥러닝 기반 토픽모델링을 활용한 법학 설문 빅데이터 분석 (서울대학교)

AI 모델 Word2Vec과 감성분석을 적용한 설문 문항 빅데이터 분석 (경기연구원)

AI 모델 RNN 기반 리뷰 인사이트 추출 및 분석 프로그램 개발 (서클플랫폼)

빅데이터를 활용한 2022년 국립공원 탐방 키워드 분석 (국립공원관리공단)

이외에도 다수의 공공기관, 기업체와 개인적 의뢰 등 총 200건 이상 프로젝트 진행

 

📖 Publication

 [주요 논문 ]

Improving Commonsense Bias Classification by Mitigating the Influence of Demographic Terms.2024.

Improving Generation of Sentiment Commonsense by Bias Mitigation" International Conference on Big Data and Smart Computing.2023.

언론기사 빅데이터 분석을 통한 대규모 언어모델에 대한 기술 인식 분석: ChatGPT 등장 전후를 중심으로, 2024

자연어 처리(NLP)기반 텍스트마이닝을 활용한 소나무에 대한 국내외 연구동향(2001∼2020)분석 | 농업생명과학연구 | 2022

숲길에 대한 10 년간의 언론 인식분석-텍스트 마이닝 분석을 중심으로 | 산림경제연구 | 2021

이외에도 타 분야에서 다수의 학술논문, 학술발표, 연구보고서 등의 성과 창출

Others

Python을 활용한 데이터분석 및 시각화

LLM을 활용한 데이터분석

ChatGPT와 LangChain,Agent을 활용한 업무 생산성 향상

Chương trình giảng dạy

Tất cả

20 bài giảng ∙ (52phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

10 đánh giá

4.9

10 đánh giá

  • 이종현님의 프로필 이미지
    이종현

    Đánh giá 12

    Đánh giá trung bình 4.8

    5

    63% đã tham gia

    • neverdie님의 프로필 이미지
      neverdie

      Đánh giá 1

      Đánh giá trung bình 5.0

      5

      32% đã tham gia

      • catwalk님의 프로필 이미지
        catwalk

        Đánh giá 8

        Đánh giá trung bình 5.0

        5

        63% đã tham gia

        • 정성원님의 프로필 이미지
          정성원

          Đánh giá 1

          Đánh giá trung bình 5.0

          5

          32% đã tham gia

          • angellike님의 프로필 이미지
            angellike

            Đánh giá 16

            Đánh giá trung bình 4.7

            4

            100% đã tham gia

            716.373 ₫

            Khóa học khác của leejinkyu0612

            Hãy khám phá các khóa học khác của giảng viên!

            Khóa học tương tự

            Khám phá các khóa học khác trong cùng lĩnh vực!