류원재

챗지피티(ChatGPT) 같은 대규모 언어 모형의 기초 원리를 이론 중심으로 설명합니다.

아리가람

지식공유자의 깜짝할인

대규모 언어 모형(LLM)의 기초 원리 이해

llm성능평가및튜닝

chatGPT

chatgpt

생성형AI

생성형ai

ChatGPTのような大規模言語モデルの基本原理を、理論を中心に説明します。

arigaram

입문

초급

중급이상

자연어처리(Natural Language Processing)

챗지피티

ChatGPT

대규모 언어 모델

大規模言語モデル(LLM)の基礎原理理解

【基本】生成型人工知能の理解

[上級] '生成型人工知能の理解' 上級

【実習】「生成型人工知能の理解」実習

[基本] 言語モデルの原理深層理解

# [実習] '言語モデルの原理深層理解' 実習

【基本】自己回帰モデル vs. 自己注意モデル

[深化] '自己回帰モデル vs. 自己注意モデル' 深化

[実習] '自己回帰モデル vs. 自己注意モデル' 実習

[応用] Transformerアーキテクチャ

[実習] 'Transformerアーキテクチャ' 実習 --> 入力と表現

[実習] 'Transformerアーキテクチャ' 実習 --> Attentionの理解と実装 --> Scaled Dot Product Attentionの理論

[実習] 'Transformerアーキテクチャ' 実習 --> Attentionの理解と実装 --> Scaled Dot Product Attentionの実装

(予定) [実習] 'Transformer アーキテクチャ' 実習 --> Attention 理解と実装 --> その他

(予定) [実習] 'Transformerアーキテクチャ' 実習 --> Transformerブロック構成要素

(予定) [実習] 'Transformerアーキテクチャ' 実習 --> Transformer全体アーキテクチャ

(予定) [実習] 'Transformerアーキテクチャ' 実習 --> 事前学習モデルと応用

# [上級] オープンソースLLMとクローズドソースLLMの比較

【実習】「オープンソースLLMとクローズドソースLLMの比較」実習

# [基本] LLM訓練関連の基本概念の理解

[上級] 'LLM訓練関連基本概念の理解' 上級

【基本】LLMのためのトークン化実装入門

【上級編】LLMのためのトークン化完全攻略 --> 初級編

[上級] LLMのためのトークン化完全攻略 --> 中級編

[上級] LLM のためのトークン化完全攻略 --> 上級編

[基本] LLM製作全過程を理解する I (Foundation Model構築)

(投稿進行中) [基本] LLM製作全過程を理解する II (後続作業)

(予定) [上級] 'LLM製作全過程の理解' 上級 --> プロジェクト企画

(予定) [上級] 'LLM製作全過程の理解' 上級 --> データ収集

(予定) [上級] 'LLM製作全過程の理解' 上級 --> データクレンジング

(予定) [上級] 'LLM製作全過程の理解' 上級 --> データセット管理

(予定) [上級] 'LLM製作全過程の理解' 上級 --> トークン化 (Tokenization)

(予定) [上級] 'LLM製作全過程の理解' 上級 --> 事前学習 (Pre-Training)

(予定) [上級] 'LLM製作全過程の理解' 上級 --> 微調整 (Fine-Tuning)

(予定) [上級] 'LLM製作全過程の理解' 上級 --> アライメントのための強化学習 (RLHF/RLAIF)

(予定) [上級] 'LLM製作全過程の理解' 上級 --> 性能評価

(予定) [上級] 'LLM製作全過程の理解' 上級 --> 安全性検証

(予定) [上級] 「LLM製作全過程の理解」上級 --> 配布

(予定) [上級] 'LLM製作全過程の理解' 上級 --> 運営

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> 実習過程総合まとめ

(予定) [実習] 'LLM制作全過程の理解' 実習 (Python + Google Colab) --> 環境準備

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> データ準備

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> トークナイザー

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> モデル実装

(予定) [実習] 'LLM制作全過程の理解' 実習 (Python + Google Colab) --> トレーニング

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> ファインチューニング

(予定) [実習] 「LLM製作全過程の理解」実習 (Python + Google Colab) --> 推論

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> 評価

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> 安全性

(予定) [実習] 'LLM製作全過程の理解' 実習 (Python + Google Colab) --> 配布

# [基本] LLM訓練過程の詳細

(予定) [上級] 'LLM訓練プロセス詳細' 上級

# [実習] 'LLM訓練過程詳細' 実習

【基本】LLM評価方法

(予定) [上級] 'LLM評価方法' 上級

# [実習] 「LLM評価方法」実習

【基本】LLMの軽量化

(予定) [上級] 'LLM軽量化' 上級

(予定) [実習] 'LLM軽量化' 実習

(予定) [上級] LLMの倫理的考慮と責任あるAI

(予定) [実習] 'LLMの倫理的考慮及び責任あるAI' 実習

(予定) [上級] LLM応用及び配布戦略

(予定) [実習] 'LLM応用及び配置戦略' 実習

[上級] 最新LLM技術の現状

(予定) [実習] '最新LLM技術の現況' 実習

(予定) [上級] 最新LLM研究動向と未来展望

(予定) [実習] '最新LLM研究動向及び未来展望' 実習

(予定) [上級] 生成型人工知能の実践活用

(予定) [実習] '生成型人工知能の実戦活用' 実習

(予定) [上級] 小規模実習とプロジェクトベース学習方法のご案内

(予定) [実習] 「小規模実習とプロジェクトベース学習方法案内」実習