Inflearn brand logo image
Inflearn brand logo image
Inflearn brand logo image
AI Development

/

Natural Language Processing

[LLM 101] LLM必須基礎&LLaMA SFTチューニング (feat. ChatApp Poc)

LLMに必要な基礎知識から、実戦で使えるヒントまで、核心的な内容を中心に現職者が素早くお伝えします!

  • dreamingbumblebee
포트폴리오
NLP
ChatGPT
LLM
Llama
Fine-Tuning

学習した受講者のレビュー

こんなことが学べます

  • LLM

  • ChatGPT

  • 自然言語処理

  • SFT

  • インストラクションチューニング

  • Parameter Efficient Finetuning (PEFT)

  • llamacpp

  • chat-ui

  • 大規模言語モデル

  • NLP

オートバンドバナー(1)

学びながら作る自分だけのLLM会話デモを作る🚀

AI技術が急速に発展するにつれて、LLMモデルの重要性はますます大きくなっています。しかし、一般化されたモデルだけでは特定のドメインやタスクに最適化されにくいです。だから今回の講義ではSFTチューニングを通じてLLMをカスタマイズし、会話デモまで作ってみる全体の過程を取り上げます🔥

今回の講義では、自然言語処理の全体的な内容を直感的なレベルでレビューし、LLM(Large Language Model)を希望するデータにInstruction(SFT)チューニングする方法を学びます。チューニングされたモデルをllama.cppでローカル環境でサービングし、Chat-UIを活用して素敵な会話デモを作る予定です🎉

💡LLMカスタムサービング:SFTチューニングからChat-UIデモまで🚀

  • このレッスンでは、LLM(大規模言語モデル)を目的のデータにInstructionチューニングし、チューニングされたモデルをローカル環境でサービングし、インタラクティブなUIを構築する全体的なプロセスを学びます。

  • カスタマイズされたAIアシスタント、チャットボット、仮想秘書など、さまざまな会話システムの構築に活用できます。 🧠

この講義の特徴

📌自然言語処理の基礎からLLMまでの全体的な内容を圧縮して扱います

📌概念の説明と例をバランスよく扱う

📌実際にチューニングしながら、モバイルとWebに優しいChat-UIベースの会話デモを構築してみることができます

📌直感的なレベルで概念を扱うので初心者から受講が可能です

💡このレッスンは他のレッスンとどう違いますか?

  • 概念説明部では、視覚的な資料とKindのたとえ話を活用し、複雑な内容もわかりやすく伝えます。

    各段階で理論的背景と実装方法を詳しく説明します🔎

  • モバイル/ウェブフレンドリーなChat UIデザインとflamacppを介してLocal PC(MacBook)サービング構築プロセスを紹介し、自分で作成した会話システムを実際に活用できるようにします🚀

こんな方におすすめです

LLMスキルレベルアップしたいです。
🧠LLM (大規模言語モデル)の本番活用方法に興味のある方

LLM就職に興味があります。
🏅ポートフォリオのためのプロジェクトを必要とする実務家と就学者

開発過程が気になります。
🔥AIチャットボット、仮想秘書などインタラクティブシステムを直接構築してみたい方

💡この講義が必要な受講生は誰ですか?次のような悩みがあれば一緒に勉強してみましょう!

  • 🤔 「LLMモデルをどうすれば私のサービス/プロジェクトに効果的に活用できるのか?」

  • 😓 「LLMチューニングの方法論は学んだが、実際に実装しようとすると難しくてエラーがたくさん出てる…」

  • 🥵 「いつかはLLMベースのインタラクティブなAIを作成する必要がありますが、どこから始めるべきかわからない」

💡こんな方におすすめです

  • 🧩理論と実践の両方を望む本番コーディング予備受講生

  • 🔥最新のAI技術トレンドを学びたい情熱的な学生/実務家

  • 💡LLMモデルのチューニングからPoC開発まで、全体のコースを習得したい方

受講後は

  • 🤖Instruction Tuning(SFT)を使用すると、LLMモデルを特定のタスクまたはドメインに最適化できます。

  • 💻llama.cppを使用して、チューニングされたLLMモデルをローカル環境で効率的にサービスすることができます。

  • 💬 Chat-UIを構築することで、サービングされたLLMモデルと自然なインタラクティブなインターフェースを提供できます。


このような内容を学びます。

LLMチャットデモ:chat-ui、flamacpp

  • 私がチューニングしたLLMをローカル環境でサービング

  • チャットデモの構築

LLM Instruction Tuning 実習

  • Instruction 学習データ前処理

  • SFTTrainerとLoRA学習実習

この講義を作った人

  • 2016~現在:NLP&LLM開発実務者(大企業N社~S社勤務)


受講前の注意

練習環境

  • 講義はColabとMacOSで説明します。

  • Windowsマシンの場合、dockerがインストールされている場合は、ほとんど従うことができます。


学習資料

  • 各講義セッションにPDFファイルとして添付されています。

選手の知識と注意事項

  • 基本的なPython文法(

    generator、decoraterの基本動作原理)

  • ディープラーニングの基礎知識


こんな方に
おすすめです

学習対象は
誰でしょう?

  • LLMに初めて触れる人

  • 自分だけのLLMを作ってみたい人

  • LLM知識をまとめて、チューニングもしてみたい人

前提知識、
必要でしょうか?

  • パイソン

こんにちは
です。

228

受講生

29

受講レビュー

4

回答

4.5

講座評価

2

講座

📱contact: dreamingbumblebee@gmail.com

カリキュラム

全体

24件 ∙ (1時間 58分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

全体

20件

4.5

20件の受講レビュー

  • 오늘세컷님의 프로필 이미지
    오늘세컷

    受講レビュー 1

    平均評価 5.0

    5

    33% 受講後に作成

    자연어처리에 있어서 중요한 개념들, 기초적인부분들부터 조금은 심화적인 부분들까지 전체적으로 잘 커버해주는 강의인 것 같습니다. 초보자부터 중급자까지한테 적절한 강의라 생각되고 저는 개인적으로 도움이 많이 된 것 같습니다. 감사합니다~!

    • 따라쟁이님의 프로필 이미지
      따라쟁이

      受講レビュー 3

      平均評価 3.7

      5

      63% 受講後に作成

      • 김우성님의 프로필 이미지
        김우성

        受講レビュー 1

        平均評価 5.0

        5

        100% 受講後に作成

        빠르지만 핵심을 쏙쏙 집어주는 훌륭한 강의. 덕분에 최근 추세를 빠르게 따라갈 수 있었습니다.

        • kid1412님의 프로필 이미지
          kid1412

          受講レビュー 2

          平均評価 5.0

          5

          17% 受講後に作成

          개인 사이드 프로젝트에 LLM이 필요로 하였는데 이 강의가 많은 도움이 되었습니다. 회사에서도 LLM에 기초를 원하시는 분들에게 추천을 하였습니다. 이 담도 좋은 강의 기대하겠습니다.

          • 숀김님의 프로필 이미지
            숀김

            受講レビュー 4

            平均評価 4.8

            4

            63% 受講後に作成

            강의는 좋은데요 windows 환경에서 실행하는 방법도 안내를 같이 해주셨으면 좋겠어요.

            ¥11,291

            dreamingbumblebeeの他の講座

            知識共有者の他の講座を見てみましょう!

            似ている講座

            同じ分野の他の講座を見てみましょう!