ディープラーニングを学び直すPyTorch ― 原理を理解して自分で実装する

この講義は、PyTorchでディープラーニングをゼロからもう一度積み上げていく、全47回、約39時間のコースです。 ディープラーニングの講義は数多くありますが、その多くは二つのタイプに分かれます。ライブラリの使い方だけをざっと学び、肝心のコードがなぜそのような形になっているのか分からなくなるか、数式から始めて途中で挫折してしまうかです。この講義では、別の順序を選びます。まず結果を作ってみて、その後で、その中で何が起きていたのかを掘り下げます。 スタートは事前学習済みモデルです。画像分類を実行し、Stable Diffusionでインペインティングを試し、BLIPによる画像キャプション生成まで実習します。最初の時間から成果物が得られるため、その後の理論を学ぶ動機が生まれます。 次がこの講義の核心です。テンソルを7回にわたって扱います。インデックス操作やブロードキャストはもちろん、ストレージやstrideといったメモリ構造、メモリの連続性の管理、GPU演算とNumPyとの相互変換まで掘り下げます。テンソルをここまで詳しく扱う日本語の講義は多くありません。ここを理解すると、その後のコードがまったく違って読めるようになります。 続いて、実際のデータをテンソルに変換する前処理を扱います。画像のカラーチャンネル、テーブルデータとワンホットエンコーディング、時系列、テキスト埋め込みまで、データの種類ごとに見ていきます。そして学習の原理へ進み、損失関数と勾配降下法を数値微分で直接実装した後、Autogradがそれをどのように自動化しているのかを確認します。自分で作ってみた人だけが、自動微分の便利さを本当の意味で理解できます。 後半はニューラルネットワークの構造です。nn.Moduleで深層ニューラルネットワークを作り、CIFAR-10を分類する中で全結合ニューラルネットワークの限界に直面し、そこからCNNがなぜ必要なのかを自然に理解していきます。最後にはテキスト生成へ進み、バイグラムモデルから埋め込み、MLPベースの生成モデルを経て、AttentionのQuery・Key・Valueの原理まで扱います。 Pythonを扱うことができ、ディープラーニングを本格的に理解したい方であれば、この講義を終えたときに残るのはサンプルコードではありません。どのようなモデルに出会っても、その構造を読み解ける目なのです。