강의

챌린지

멘토링

로드맵

커뮤니티

ディープラーニングを学び直すPyTorch ― 原理を理解して自分で実装する

この講義は、PyTorchでディープラーニングをゼロからもう一度積み上げていく、全47回、約39時間のコースです。 ディープラーニングの講義は数多くありますが、その多くは二つのタイプに分かれます。ライブラリの使い方だけをざっと学び、肝心のコードがなぜそのような形になっているのか分からなくなるか、数式から始めて途中で挫折してしまうかです。この講義では、別の順序を選びます。まず結果を作ってみて、その後で、その中で何が起きていたのかを掘り下げます。 スタートは事前学習済みモデルです。画像分類を実行し、Stable Diffusionでインペインティングを試し、BLIPによる画像キャプション生成まで実習します。最初の時間から成果物が得られるため、その後の理論を学ぶ動機が生まれます。 次がこの講義の核心です。テンソルを7回にわたって扱います。インデックス操作やブロードキャストはもちろん、ストレージやstrideといったメモリ構造、メモリの連続性の管理、GPU演算とNumPyとの相互変換まで掘り下げます。テンソルをここまで詳しく扱う日本語の講義は多くありません。ここを理解すると、その後のコードがまったく違って読めるようになります。 続いて、実際のデータをテンソルに変換する前処理を扱います。画像のカラーチャンネル、テーブルデータとワンホットエンコーディング、時系列、テキスト埋め込みまで、データの種類ごとに見ていきます。そして学習の原理へ進み、損失関数と勾配降下法を数値微分で直接実装した後、Autogradがそれをどのように自動化しているのかを確認します。自分で作ってみた人だけが、自動微分の便利さを本当の意味で理解できます。 後半はニューラルネットワークの構造です。nn.Moduleで深層ニューラルネットワークを作り、CIFAR-10を分類する中で全結合ニューラルネットワークの限界に直面し、そこからCNNがなぜ必要なのかを自然に理解していきます。最後にはテキスト生成へ進み、バイグラムモデルから埋め込み、MLPベースの生成モデルを経て、AttentionのQuery・Key・Valueの原理まで扱います。 Pythonを扱うことができ、ディープラーニングを本格的に理解したい方であれば、この講義を終えたときに残るのはサンプルコードではありません。どのようなモデルに出会っても、その構造を読み解ける目なのです。

1名 が受講中です。

難易度 初級

受講期間 無制限

Deep Learning(DL)
Deep Learning(DL)
deep-neural-network
deep-neural-network
Tensorflow
Tensorflow
NLP
NLP
Computer Vision(CV)
Computer Vision(CV)
Deep Learning(DL)
Deep Learning(DL)
deep-neural-network
deep-neural-network
Tensorflow
Tensorflow
NLP
NLP
Computer Vision(CV)
Computer Vision(CV)

受講後に得られること

  • PyTorchパイプラインの全体的な流れ - DatasetとDataLoaderを活用してディープラーニングの学習パイプラインを構築できる

  • テンソルの内部構造を理解する - インデックス付け、ブロードキャスト、ストレージ、strideとメモリの連続性を理解し、扱うことができる。

  • データタイプ別のテンソル変換 - 画像、テーブル、時系列、テキストデータを学習用テンソルに前処理できる。

  • 深層ニューラルネットワークの構築 - nn.ModuleとSequentialを用いてニューラルネットワークを設計し、学習・検証ループを完成できる。

  • 生成モデルとAttention - テキスト生成モデルを実装し、Query・Key・Valueに基づくAttentionの原理を説明できる。

  • 事前学習モデルと生成AIの活用 ― 画像分類、Stable Diffusionのインペインティング、BLIPキャプション生成を実際に体験できる。

  • GPU演算とNumPy連携 - GPUアクセラレーション演算を適用し、NumPyとの相互変換を行いながら、テンソルを保存・復元できる。

  • 学習の原理とAutograd - 損失関数と勾配降下法を自分で実装し、Autogradで自動微分を適用できる。

  • CNNの設計と最適化 - 畳み込みとプーリングの原理を理解し、画像分類モデルを設計・評価できる。

PyTorchで学ぶディープラーニング:テンソルからCNNとAttentionまで

PyTorchを活用して、ディープラーニングの核心原理を基礎から段階的に学ぶ実践重視の講義です。

この講義では、DatasetとDataLoaderを活用した学習パイプラインの構築、テンソルのメモリ構造と演算、GPUアクセラレーションとNumPy連携、データ前処理、損失関数と勾配降下法、Autogradと逆伝播、ニューラルネットワークの設計と学習、CNNベースの画像分類、そしてテキスト生成とAttentionにおけるQuery・Key・Valueの原理まで、実際にコードで実装しながら学びます。

また、事前学習済みモデルを活用した画像分類、Stable Diffusionインペインティング、BLIP画像キャプション生成など、生成AIとマルチモーダルAIの実践的な活用方法も扱います。

学んだ技術は人工知能(AI)、ディープラーニング、コンピュータービジョン、自然言語処理(NLP)、生成AI、データサイエンスおよびAIエンジニアリングの分野で活用できます。

講義では概念の説明にとどまらず、実際のコードと実行結果を通じて各技術がどのように動作するのかを確認します。特にテンソルのインデックス付け、ブロードキャスト、Storage、Stride、メモリの連続性などを実際に扱い、PyTorchコードを単に使用するだけでなく、モデルとテンソル演算の内部構造を理解する能力を身につけることに重点を置きます。

学習内容

セクション:主要な学習内容

この講義では、PyTorchを基盤として、ディープラーニングの基本概念と実践的な実装方法を段階的に学習します。

1. PyTorchディープラーニングパイプライン

  • PyTorch開発環境の設定

  • DatasetとDataLoaderの構造と活用

  • データをモデルに入力し、学習させる一連のプロセスを理解する

  • 事前学習済みモデルを活用した画像分類

  • Stable Diffusionを活用したインペインティング

  • BLIPを活用した画像キャプショニング

2. Tensorの構造と演算

  • Tensorの基本概念と次元の理解

  • インデックス指定とスライス

  • ブロードキャストを活用した演算

  • Named Tensorとデータ型変換

  • Tensor Storageとメモリ構造

  • ストライドとメモリの連続性

  • GPU上でTensor演算を実行する

  • NumPyとPyTorch Tensor間の変換

  • Tensorの保存と復元

3. 다양한 데이터를 Tensor로 변환하기

  • 画像データをTensorで表現し、前処理する

  • 次元変更と正規化

  • 3Dデータ処理

  • テーブルデータとOne-Hot Encoding

  • 統計分析とBoolean Indexing

  • 時系列データの前処理と次元変換

  • テキストの正規化と単語埋め込み

4. ディープラーニングの学習原理

  • 線形モデルとパラメータの概念

  • Loss Functionの役割

  • Gradient Descentの原理

  • 微分とChain Ruleの理解

  • Training Loopを直接実装する

  • 学習安定化の方法

  • Autogradを活用した自動微分

  • バックプロパゲーションの原理と実装

  • オプティマイザの適用

  • モデルの検証と性能評価

5. ディープニューラルネットワークの構築

  • 線形モデルの限界を理解する

  • 活性化関数の役割

  • nn.ModuleとLinear Layerの活用

  • 隠れ層の構成

  • Sequentialを用いたモデル設計

  • CIFAR-10データセットを活用した画像分類

  • 正規化とSoftmax

  • バッチ単位の学習とNLLLoss

  • GPUを活用した学習

  • 過学習の確認およびパラメータ数の計算

  • Fully Connected Networkの限界を理解する

6. CNNと画像分類

  • CNNが必要な理由と登場の背景

  • 畳み込みの原理

  • プーリングの役割

  • CNNネットワーク構造の設計

  • Module APIとFunctional APIの違い

  • CNN学習ループの実装

  • 精度評価

  • CNNモデルの構造と性能最適化

7. テキスト生成とAttention

  • テキスト生成と自己教師あり学習の概念

  • Bigramモデルを活用した文字シーケンス分析

  • サブシーケンスの構成

  • Embeddingの原理

  • MLPベースのテキスト生成モデルの実装

  • Attentionの基本原理

  • Query、Key、Valueの役割を理解する

学習目標

講義が終わる頃には、単にPyTorch APIを使うだけでなく、Tensorがメモリ上でどのように構成され、演算されるのか、モデルがどのように学習し、逆伝播が行われるのか、そしてCNNとAttentionがどのような原理で動作するのかをコードレベルで理解し、自ら実装できるようになります。

受講前に

受講前の準備と注意事項

この講義は中級レベルのディープラーニング学習コースであり、PythonとNumPyに関する基本的な理解が必要です。

前提知識

  • Pythonの基本文法を知っている必要があります。

  • 関数、クラス、リスト、辞書などの基本的なPythonの使い方が必要です。

  • NumPyの基本的な配列演算を経験していることを推奨します。

  • 高校レベルの数学と基本的な微分の概念を理解していることが望ましいです。

  • 微分とディープラーニングに必要な数学の概念については、講義でも改めて説明します。

  • Python 3の開発環境またはGoogle Colabを使用できる必要があります。

  • GPUがあれば学習や実習をより速く進められますが、ほとんどの実習はCPUでも可能です。

学習方法

各講義を順番に視聴しながら、説明されたコードを自分で記述して実行してみることをお勧めします。単に動画を視聴するよりも、講義で提供されるサンプルコードを直接修正して実行し、Tensor、Autograd、Neural Network、CNNなどの動作を確認するほうが効果的です。

特に、各概念を学習した後、自分で小さな演習を作成して実行し、実行結果やエラーを確認しながら学習することをおすすめします。

講義の品質

講義はコードと概念の説明を明確に確認できるように構成されており、PythonとPyTorchの実習を進めながら学習できます。大きな画面のPC環境でコードを実際に実行しながら学習することをお勧めします。

質問および学習サポート

学習中に理解しにくい部分やコードの実行中に問題が発生した場合は、講義の質問・ディスカッション機能を利用して質問できます。

質問する際は、問題が発生したコードとエラーメッセージ、そしてご自身が試した方法も併せて記載すると、より正確なサポートを受けることができます。

講義内容と実習環境の変更に応じて、必要に応じて講義内容が更新される場合があります。

こんな方に
おすすめです

学習対象は
誰でしょう?

  • ディープラーニング入門講座を受講したものの、原理が理解できずもどかしさを感じていた開発者

  • TensorFlowからPyTorchへの移行を検討しているエンジニア

  • 論文の実装コードを読む際、テンソル操作でつまずく研究者・大学院生

  • 事前学習モデルを持ってきて使うだけで、内部のことを知らない実務者

  • 生成AIの動作原理をコードレベルで理解したい方

  • ディープラーニングが難しくて一度諦めたものの、もう一度始めようとしている学習者

  • AI関連の就職・転職に向けて、深い基礎を身につけたい方

前提知識、
必要でしょうか?

  • CNNの設計と最適化 - 畳み込みとプーリングの原理を理解し、画像分類モデルを設計・評価できる。

  • NumPyの基礎的な使用経験

  • 高校レベルの数学(微分の概念に触れたことがあれば十分で、講義で改めて扱います)

  • Python 3の開発環境またはGoogle Colabアカウント

  • GPU環境を推奨(なくてもほとんどの実習はCPUで可能で、Colabの無料GPUも利用可能)

  • 教材の閲覧にはXMindまたは無料ビューアが必要です

こんにちは
it learnerです。

IT分野ごとの実務専門家と専門講師が担当するIT教育課程で、プログラミング、ソフトウェア開発、データ分析、人工知能、ネットワークおよび情報技術など、さまざまな分野の実務中心の講義を提供します。最新のIT技術と業界動向を反映した教育コンテンツを通じて、学習者が理論的知識と実務能力を同時に身につけ、急速に変化するIT環境に適応できるよう支援します。

もっと見る

カリキュラム

全体

47件 ∙ (37時間 47分)

講座資料:

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価が集まっていない講座です。
ぜひ最初のレビューをお寄せください。

it learnerの他の講座

知識共有者の他の講座はこちら

似ている講座

同じ分野の他の講座を見てみましょう!

期間限定セール

¥1,642,954

20%

¥12,532