人工ニューラルネットワーク理論とDNN、CNNアーキテクチャの理解と実装

DNN、CNN、RNN？ 難しそうな専門用語も、本講義を通じてディープラーニングの核心アルゴリズムを完璧に整理し、実際に活用してみるディープラーニング実習コース！

この講義を通して、強化学習の基本理論を学ぶことができます。

この講座では、Tensorflow を活用してディープラーニングを学習します。線形回帰、ロジスティック回帰、ソフトマックス回帰モデルを学び、最後にファッション画像を分類できる MLP モデルを作成します。

この講義は、PyTorchでディープラーニングをゼロからもう一度積み上げていく、全47回、約39時間のコースです。 ディープラーニングの講義は数多くありますが、その多くは二つのタイプに分かれます。ライブラリの使い方だけをざっと学び、肝心のコードがなぜそのような形になっているのか分からなくなるか、数式から始めて途中で挫折してしまうかです。この講義では、別の順序を選びます。まず結果を作ってみて、その後で、その中で何が起きていたのかを掘り下げます。 スタートは事前学習済みモデルです。画像分類を実行し、Stable Diffusionでインペインティングを試し、BLIPによる画像キャプション生成まで実習します。最初の時間から成果物が得られるため、その後の理論を学ぶ動機が生まれます。 次がこの講義の核心です。テンソルを7回にわたって扱います。インデックス操作やブロードキャストはもちろん、ストレージやstrideといったメモリ構造、メモリの連続性の管理、GPU演算とNumPyとの相互変換まで掘り下げます。テンソルをここまで詳しく扱う日本語の講義は多くありません。ここを理解すると、その後のコードがまったく違って読めるようになります。 続いて、実際のデータをテンソルに変換する前処理を扱います。画像のカラーチャンネル、テーブルデータとワンホットエンコーディング、時系列、テキスト埋め込みまで、データの種類ごとに見ていきます。そして学習の原理へ進み、損失関数と勾配降下法を数値微分で直接実装した後、Autogradがそれをどのように自動化しているのかを確認します。自分で作ってみた人だけが、自動微分の便利さを本当の意味で理解できます。 後半はニューラルネットワークの構造です。nn.Moduleで深層ニューラルネットワークを作り、CIFAR-10を分類する中で全結合ニューラルネットワークの限界に直面し、そこからCNNがなぜ必要なのかを自然に理解していきます。最後にはテキスト生成へ進み、バイグラムモデルから埋め込み、MLPベースの生成モデルを経て、AttentionのQuery・Key・Valueの原理まで扱います。 Pythonを扱うことができ、ディープラーニングを本格的に理解したい方であれば、この講義を終えたときに残るのはサンプルコードではありません。どのようなモデルに出会っても、その構造を読み解ける目なのです。

ニューラルネットワークをFPGAに実装する — 言葉には馴染みがありますが、実際に成し遂げた人は稀です。 キャップストーン、競技会、卒業制作で一歩先を行きたいなら、モデルを学習させるだけでなく、その演算が実際のチップの中でどのように動くのかを自ら作り、証明できなければなりません。この講義は、まさにその点、理論と実物ハードウェアの間のギャップを埋めるお手伝いをします。 MNISTの数字を認識するニューラルネットワークアクセラレータ（NPU）を、スペックの読み解きからPythonゴールデンモデル、Verilog RTL設計、FPGA検証まで、最初から最後まで自ら完成させます。ラインバッファと並列MACで作るConv層、ReLU・MaxPool・Flattenを経て全結合層とArgmaxまで — 9つのブロックを一つのチップに統合し、"Pythonの正解とハードウェアの出力が1ビットも違わない（Bit-True）"ことを自ら証明します。シミュレーションは正常に動くのに結果だけが微妙に異なる、そんなもどかしい瞬間を乗り越える方法まで講義に込めました。 整数量子化、配列の軸順序の変換、アキュムレータのオーバーフロー防止など、一般的なディープラーニングの教材では扱われない実戦的なノウハウを一つずつ解説します。私はRISC-V CPU設計とFPGA Bit-True検証を長年手がけてきた中で経験した試行錯誤を、皆さんが繰り返さないようこの講義に凝縮しました。講義が終わる頃には、"自ら設計し、証明した"と言える完成されたハードウェアプロジェクトが手元に残ります。

パーセプトロンから誤差逆伝播法まで、ニューラルネットワークの核心となる数学理論を体系的に学び、Rコードで自ら実装します。活性化関数、勾配降下法、多層ニューラルネットワークなど、ディープラーニングの基礎をしっかりと身につけ、実際のデータセットを活用した分類問題の解決能力を養います。

機械学習を学ぶと、精度を上げる方法を身につけます。ところが、そのモデルを実際のチップに載せようとした瞬間、誰も教えてくれなかった疑問が残ります。このモデルは何回乗算を行うのでしょうか？何をどれだけ記憶しておく必要があるのでしょうか？現在目標としているチップの仕様で、その要求に対応できるのでしょうか？ 機械学習の教科書は精度について語り、半導体の教科書は回路について語りますが、その間をつなぐ資料はほとんどありません。私はRISC-V CPUとNPUをFPGAで実装しながら、この隔たりに何度も直面しました。精度が最も高いモデルが、実際にはボードに収まらないという状況です。 本講座では、6つのアルゴリズムをPythonで実際に作りながら、作るたびに乗算、比較、メモリ、精度を測定します。そして、その値を実際のFPGAボードのリソースに換算します。乗算が何回という言い方だけでは規模を推し量れませんが、ボードの何パーセントかと言われれば判断できるからです。 9つのLabを経て6つのモデルを1つの表にまとめると、予想とは異なる全体像が見えてきます。乗算を数えるために9つのLabを費やしたのに、実際に足を引っ張っていたのは乗算ではありませんでした。その後、実数を整数に落とし込み、桁数を管理し、回路を評価する基準まで作ります。 FPGAボードは必要ありません。Pythonだけで進め、ボードは測定値を換算する基準としてのみ使用します。

<大規模言語モデル、要点だけを素早く！>（インサイト、2025）をもとに、LLMの理論と実践例を扱う講義です。

AIを勉強しようとして、線形代数の数式の前でいつも挫折していませんか？この講義は公式を暗記する代わりに、ベクトルや行列が空間で実際にどのように動くのかを視覚的にお見せします。最後まで受講すれば、ニューラルネットワーク、PCA、SVDの背後に隠れた数学を自力で読み解けるようになります。

簡単な機械学習モデルをベースにAndroid/iOSアプリを作成し、機械学習の基礎、TFLiteを使用したモデル変換、Androidアプリ/iOSアプリを実装するプロセスを学びます。

ボストンマラソンのビッグデータに基づいて、PythonとTensorflow 2を利用して、多様で有用な機械学習回帰（Regression）と分類（Classification）プロジェクトを理論とともに学ぶ機械学習総合プロジェクトコースです。

ディープラーニング・CNNの核心理論から多様なCNNモデルの実装方法、実践問題を通じた実務ディープラーニング開発のノウハウまで、 PytorchベースのディープラーニングCNN技術の専門家として生まれ変わりたいなら、この講義をご一緒ください:)