강의

멘토링

커뮤니티

BEST
AI Technology

/

Deep Learning & Machine Learning

ディープラーニング理論+ PyTorch実務完全征服

ディープラーニング 現業に携わるために必要なディープラーニングの「核心概念」を学び、PyTorchを活用した実習を通じて実際のディープラーニングプロジェクトを遂行するのに必要な実務を教えてくれる講義です。

  • peterbyun969574
이론 실습 모두
개념정리
딥러닝기초
딥러닝모델
자연어처리
Deep Learning(DL)
PyTorch
Computer Vision(CV)
NLP
transformer

学習した受講者のレビュー

受講後に得られること

  • ディープラーニングが動作する原理

  • ディープラーニングの中心概念(損失関数、傾斜下降、自動微分など)

  • PyTorchでカスタムモデルを作成する

  • ディープラーニングの主なモデル(CNN、RNN、Transformer)

  • コンピュータビジョンの実践

  • 自然言語処理の実践

人工知能(AI)分野
就コン生や新入なら注目!

AlphaGo (アルファゴ)

AlphaFold(アルファフォールド)

DALLEで作成した画像

ChatGPT(チャットピティ)

ディープラーニングは、コンピュータビジョン、自然言語処理、生物学などの非常に多様な分野にわたって優れた成果を披露しています。代表的にはAlphaGo(アルファゴ)、AlphaFold(アルファフォールド)、DALLE、ChatGPTなどがあります。これにより、ディープラーニング(DL)/マシンラーニング(ML)エンジニアとScientistの直軍に対する市場需要も急増しています

しかし、現業で求められるレベルの理論と実務を教えてくれるディープラーニング教育サービスはまだ不足していると思います。

今回の講義では、ディープラーニングの現業に従事するために必要なディープラーニングの「核心概念と実務」を深く学習できるようにカリキュラムを構成しました。

コア原理から実務まで
一度に終わるディープラーニング

ディープラーニング 現業で必要なディープラーニング「核心概念」を学び、PyTorchを活用した実習を通じてディープラーニングプロジェクトの実務能力を強化します。

理論と概念はスイカの舐め式ではなく、 in-depthながらも多様な可視化資料を通じてできるだけ簡単に解いて説明します。

各セクションごとに理論と連携した実習を一緒に構成しました。理論がどのようにコードで実装され、移植されるかを直感的に理解することができます。

ブートキャンプと専攻クラスの残念な点を補完する
ただ実務のための内容だけを込めました

ディープラーニングに関連するBootcampと講義はたくさんありますが、ディープラーニングを深くして、現業で必要なレベルに教えてくれるところは私が見るにはありません。 Random Forest、SVMなどの伝統的なMachine Learningを扱うことにとどまり、ディープラーニングを扱ってもスイカの舐め式ではなく、深く理論と実務の両方を正しく教えるところはないと思います。そのため、その講義を受講しても、基礎スキルは依然として不十分であり、技術面接を通過したり、良いMLエンジニアに生まれ変わりにくくなります。

たとえば、多数のディープラーニング講義やブートキャンプは、傾斜降下を説明しますが、実際の傾斜降下を効果的に実行することを可能にする自動微分については説明しません。すべてのディープラーニングフレームワーク(PyTorch、Tensorflowなど)が自動微分に基づいているだけに、自動微分を理解しなければ「ディープラーニングをある程度知る」と自負できると考えられます。

一方、本講座では数多くのブートキャンプ、講義が逃している中核ディープラーニングの概念をすべて総網と教えていきたいと思います。

そして、この講座では概念を簡単に紹介することにとどまらず、「なぜ使用されるのか」、「どのような意味なのか」、「どのような文脈で提案されたのか」、「どのような効果があるのか」など、より深く掘り下げてみて、複数の実際のToy Projectと実習を通じて、理論がどのようにコードで実装されて接木されるか理論と連携して学ぶことになります。

たとえば、以下の内容を扱います。

  • 分類学習に使用されるCross Entropy Lossの意味とKL Divergenceとの関連性は何か

  • なぜInitializationが重要で、どのような効果があるのか

  • Batch Normalizationはなぜ使用され、どのような効果があるのか

  • LLMの基礎となるAttentionとTransformerはどのような構造を持ち、どのように動作するか

  • PyTorch、TensorflowでGradient Descentがどのように実行され、どのように実装されているか

したがって、このクラスを受講した後、受講生はディープラーニング現業に従事するために必要なディープラーニング理論に対する理解度と実務能力を備えることができるようになります。

ちなみに、ディープラーニングの現業に従事するには、必ず知っておくべき内容だけで圧縮構成しました。

しっかりした理論、様々な実践で
コアディープラーニングコンセプトとモデルを総網羅

講義は合計16のセクションで構成されています。このレッスンでは、すべてのディープラーニングの基礎とコアの概念を総合とし代表的なディープラーニングモデル(Fully Connected NN、CNN、RNN、Transformer)を学びます。深度ですが、あまりにも数学的に掘り下げるのではなく、数式の意味をできるだけ簡単に解いて、さまざまな可視化資料を通して理解しやすく説明します。

各セクションは[理論]講義[実習]講義で構成されています。

[理論パート]

  1. 可視化資料と一緒にできるだけ簡単に解放して説明

  1. ディープラーニングのコアコンセプトと代表的なディープラーニングモデルの両方

  1. 概念の意味を理解できる深い説明

【実習パート】

  1. 理論がどのようにコードで実装され、接木されるか連携し説明

  1. 実務能力に必要な複数の「実践」ディープラーニングプロジェクトを含む

  1. 各セクションごとに理論説明後の実習進行

  1. PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)の実践

また、CNNセクションRNN、Attention&Transformerセクションでは、それぞれComputer VisionNLPのToy Projectを実行します。

こんな方におすすめです

機械学習/ディープラーニングエンジニアの就職または離職を準備する方

AI大学院に進学したい方

機械学習/ディープラーニングを正しく勉強してみたい方

受講後は

  • ディープラーニングの動作原理についてきちんと、深く理解することになります。


  • ディープラーニングの主なモデルについて理解し実際の問題適用できるようになります。


  • ディープラーニング 現業に従事するために必要なディープラーニング理論に対する理解度と実務力量を備えます。

  • PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)を理解し活用できます。

  • PyTorchでカスタムディープラーニングモデルを作成できます。


このようなことを学びます。

セクション(1)PyTorchの練習のための環境設定

  • ディープラーニングの練習に必要な環境を設定します。

  • ディープラーニングフレームワークであるPyTorch、プログラミングIDEであるVS Code、GPUリソースを使用できるGoogle Colabのインストールと使用方法について説明します。

セクション(2)ディープラーニングとは何ですか?

  • ディープラーニングとは何で、どのような問題を解決したいのかを学びます。

  • Neural Networkのコンポーネントと動作原理を学びます。

  • ディープラーニング実務に関連する基礎概念とPyTorch基礎を固めます。

セクション (3) 損失関数 (Loss Function)

  • ディープラーニングの重要なコンポーネントの1つである損失関数について学びます。

  • 損失関数の定義、Regression と Classification task、各 task に使われる Loss の種類について学びます。

セクション(4)損失関数の深化理論

  • 損失関数の深化理論を学びます。

  • Cross Entropy LossとKL Divergence Lossについて詳しく見てみると、One-hot-encoding、entropyの概念についても学びます。

セクション (5) 傾斜下降 (Gradient Descent)

  • Neural Networkの重みを最適化する手段であり、ディープラーニングの核心である

    Gradient Descentについて学びます。

  • Gradient Descentの基本概念、Gradientの意味、Learning Rateの効果と役割、Mini-batch Gradient Descentについて学びます。

セクション(6)傾斜下降の深化理論

  • 傾斜下降の深化理論について学びます。

  • マルチバリアント入力と複数のNeuronに対するGradient Descentがどのように実行されるか、

  • ディープラーニングフレームワークが基盤とする自動微分(Auto Differentiation)とは何で、どのように動作するのか、

  • Gradientはまた、どのような意味を持っているかなど、いくつかの深化された理論を学びます。

セクション(7) アクティブ関数(Activation Function)

  • Neural Networkの重要なコンポーネントの1つであるActiv

    ation Functionについて学びます。

  • Activation Functionとは何ですか、なぜ必要なのかを学びます。

  • そして、さまざまな種類のActivation Functionについて学び、それぞれの特徴について学びます。

セクション (8) 最適化 (Optimization)

  • Mini-batch Gradient Descent方法をさらに進化させたさまざまなOptimization方法について学びます。

  • 主要なOptimization方法の特徴について学び、どの系譜で発展を重ねたかを把握することになります。

セクション(9)PyTorchで作るFully Connected NN

  • セクション9では、PyTorchでFully Connected Neural Networkを作成し、これまでに学んだ練習をまとめます。

セクション(10)正規化(Regularization)

  • セクション10では、オーバーフィッティングが何であるか、それに対する解決策の1つである Regularizationについて学びます。

セクション (11) 学習スピードスケジューラ

  • 学習経過とTime stepに基づいてLearning Rateを調整する方法である学習速度スケジューラについて学びます。

セクション (12) 初期化 (Initialization)

  • 初期化方法について学びます。

  • 初期化がなぜ重要なのか、望ましい初期化の基準、

    Initializationがモデルの学習に与える影響と、各アクティベーション関数に適した初期化方法について学びます。


  • 遷移学習(Transfer Learning)による初期化方法について学びます。

セクション (13) 標準化 (Normalization)

  • Neural Networkの「ほぼ」不可欠なコンポーネントとして位置付けられたNormalizationについて学びます。

  • さまざまな Normalization Layer の種類について学びます。

  • 技術面接の定番質問であるInternal Covariate Shift問題とBatch Normalizationの実際の効果について取り上げます。

セクション (14) Convolutional Neural Network (CNN)

  • CNNの動作原理、CNN Layerのさまざまなバリアント、代表的なCNNモデルについて学びます。

  • CNNモデルを実装し、CNNを活用したComputer Visionプロジェクトを実行します。

セクション (15) Recurrent Neural Network (RNN)

  • RNNの動作原理について学び、

  • RNNのBackpropagationが実際にどのように実行され、Vanishing Gradientの問題がなぜ発生するのかを学びます。

  • 代表的なRNNモデルであるLSTMとGRUを学びます。

  • RNN、GRU、LSTMを活用したNLPプロジェクトを実施します。

セクション (16) Attention と Transformer

  • LLMの基礎となる Attention と Transformer で

  • Attentionの基本概念とAttentionの発電系統(BERT、Transformer)について学びます。

  • Transformerの構造と動作原理について学びます。

  • BERTモデルを活用したNLPプロジェクトを実施します。

受講前の注意

練習環境

  • オペレーティングシステムとバージョン(OS):Windows、macOS

  • 使用ツール: Visual Studio Code, Google Colab

  • PC仕様:CPU 2コア以上、メモリ8GB以上、ディスク32GB以上

選手の知識

  • Pythonの基礎

  • Numpyの基礎

  • 高校数学(微分)と英語(ディープラーニング用語理解目的)

    • (必須ではありませんが) Linear Algebra(線形代数論)、Probability(確率論)を知っておくと便利です。

    • 高校の数学や英語レベルから逸脱する概念や内容については補足説明します。


よくある質問

非専攻者でも講義によく従うことができますか?

  • 講義内容が深さが少しあるので、ある概念についてはすぐに理解できないかもしれません。

  • それでも非専攻者である方々を念頭に置いて講義を作りました。

  • それでも十分に理解できない部分があるかもしれませんが、講義内容に対するQnAも提供されて理解がうまくいかない、または混乱する部分はいつでも自由に聞いてください!

個人のノートパソコンがないのに実践に従えますか?

  • はい可能です!

  • Googleのコラボノートブックからコードを書いて、コラボラップトップでコードを実行することができます。

  • Googleのコラボラップトップは、私たちが必要とするディープラーニング環境(pytorch、numpy、matplotlibなど)をすでに備えています。

  • また、コラボラップトップ上でコードを実行するのに必要なリソースも、ユーザーのlocalリソースではなくGoogle remoteサーバーのcpu、gpuを使用するため、デスクトップやノートパソコンではなくiPadでも実習を十分に進めてみることができます。

  • グーグルコラボも無料版があり、気軽に実習を進めることができます!

こんな方に
おすすめです

学習対象は
誰でしょう?

  • 機械学習/ディープラーニングエンジニアの就職または転職の準備

  • AI大学院進学目標

  • 機械学習/ディープラーニングを正しく学びたい方

  • ディープラーニングの理論と実務能力をしっかり固めたい人

  • いくつかのディープラーニング講義、ブートキャンプを聞いたが残念だった方

  • MLエンジニア技術面接の準備をする方

  • MLエンジニアで就職準備する非専攻者

前提知識、
必要でしょうか?

  • 高校のカリキュラムレベルの英語と数学

  • 基本的なPython

  • 基本的なNumpy

こんにちは
です。

481

受講生

62

受講レビュー

34

回答

4.9

講座評価

1

講座

경력:

  • (현) ML Engineer @ MakinaRocks

  • (전) ML Engineer @ DearGen

  • (전) ML Engineer @ DeepBio

  • (전) Research Student @ UCL NLP Group, Streetbees

  • (전) Research Student @ ICL Photonics Lab

     

학력:

  • University College London (UCL): MSc in Machine Learning (머신러닝 석사) (학점: Distinction, GPA 4.0/4.0)

  • Imperial College London (ICL): BSc in Theoretical Physics (이론물리학 학사) (학점: First Class Honours, GPA 4.0/4.0)

소개:

5년차 Machine Learning Engineer입니다. (Google DeepMind가 출범하였고, Demis Hasabis가 박사과정을 한) University College London에서 머신러닝 석사를 전공하였습니다. 석사 때는 NLP에서 Knowledge Graph Embedding을 연구하였고, DeepBio에서는 Medical Diagnosis에 적용되는 Image Classification, Segmentation 딥러닝 모델들을 개발하였습니다. Deargen에서는 신약 개발의 Drug Target Interaction와 같은 문제 적용되는 GNN, RNN, Transformer 등등의 다양한 딥러닝 모델들을 적용한 경험이 있습니다. 현재 재직중인 MakinaRocks에서는 제조 현장의 로봇팔의 이상탐지에 적용되는 딥러닝 모델 및 머신러닝 시스템을 구축하고 있습니다.

カリキュラム

全体

143件 ∙ (13時間 48分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

全体

62件

4.9

62件の受講レビュー

  • elizadukim9676님의 프로필 이미지
    elizadukim9676

    受講レビュー 1

    平均評価 5.0

    5

    31% 受講後に作成

    入門者を対象とした講義ですが、2、3年目の実務者の主な概念復習用途にも良い講義のようです。 ディープラーニングの数多くの理論や論文の中でも重要な核心概念が織りなすように構成されており、紹介念別に講義が分離されており、必要な内容を探すのに便利です。概念だけでなく実装まで理解しやすく説明していただき、実務にも役立ちました。この講義を私が大学生のときに触れたらよかったのになぜこんな講義にもう触れたのか残念ですね。コンセプトと実装を同時につかみたい方におすすめです。

    • seongwook님의 프로필 이미지
      seongwook

      受講レビュー 18

      平均評価 5.0

      5

      22% 受講後に作成

      バックアンド開発者の役割を現在やっている人です。関心がとても多かったのも決定的に受講したきっかけになりました。いただき、間違いなく理解が良かったです。 特に、私のようにMLについての基本的な、表にだけ知っている人にぴったりの講義のようです。人工知能大学院側に関心があるか、大学院論文作成時に概念的な内容が必要な方は一度ほど聞いてみるとたくさん役に立つこと同じです。

      • peterbyun969574
        知識共有者

        こんにちは!ほとんどのディープラーニングブートキャンプや講義が基本的な内容だけがスイカの表情で溢れてしまうことに対する弊害にあまりにも苦しい気がし、私が面接を見た数多くのブートキャンプ出身の面接者たちが断片的にだけディープラーニングを理解して心が大きかった。それで本当に長い時間と多くの空手をかけて今回の講義を作ることになりましたが、このように役に立ったのは本当に嬉しいですね!受講していただきありがとうございます!

    • acelhj1123님의 프로필 이미지
      acelhj1123

      受講レビュー 1

      平均評価 5.0

      5

      30% 受講後に作成

      この講義は、ディープラーニングの基礎から高級テーマまで幅広く取り上げ、PyTorchを使った実習中心のアプローチを採用して良かった。 PyTorch環境設定、ディープラーニングの基本概念、損失関数、傾斜降下法、アクティブ関数、最適化、正規化、学習スピードスケジューラ、初期化、標準化、CNN(Convolutional Neural Network)、RNN(Recurrent Neural Network)、および最新のトピックAttentionやTransformerまで様々なテーマを取り上げてよかったです。 講義は初心者にも簡単にアクセスできるように設計されており、各セクションは理論の説明とともに様々な実習で構成されており、学習者が直接コードを作成してディープラーニングの原理を体験できる点が特に気に入りました。 特に、実務からすぐに適用可能な基礎概念から始めて高級テーマまで段階的に学習することができ、ディープラーニング分野に初めて接近する人だけでなく、基礎知識をリマインドしようとする現業人員にもおすすめできると思います。 各トピックは十分な実践と例を通して深く扱われ、学習者はディープラーニングのさまざまな側面を包括的に理解し、実際のトラブルシューティングに適用する能力を身に付けることができると思います。 講義の体系的な構成と実践中心のアプローチは、学習者がディープラーニング技術を実際に活用するために必要な実践的な経験を提供するこのレッスンをディープラーニング分野に関心のあるすべての人に強くお勧めします。

      • peterbyun969574
        知識共有者

        講義を受講していただきありがとうございます。 それでも幅広いテーマを扱いますが、できるだけ深くながらも簡単に解いて説明し、実習を通じて実務感覚を身につけることができるようにカリキュラムを構成することに悩みをたくさんしました。 こんな助けになったなんてやりがいですね!ありがとう:)

    • kyuyeonpooh9631님의 프로필 이미지
      kyuyeonpooh9631

      受講レビュー 1

      平均評価 5.0

      5

      31% 受講後に作成

      ディープラーニング分野に初めて触れる方はもちろん、重要概念中心に復習してみたい実務者全員に役立つ講義です。 初めて触れた方は目次に沿って流れを追うように講義の構成がbottom-upでよく織り込まれているようで、既存の実務者の方は私が脆弱だった概念を早い時間内に復習してみることができるようです。 講義目次と内部構成が、何よりも必須要素をよくキャッチして入れてくれたようです。 また、実務者の観点から関心のある内容で講義がよく構成されています。 - それで、内部動作はどのようなロジックで実行されますか? - だからそれをどのようにimplementationするのか? これら2つがよく差別化されていると感じました。 実際に教授者の観点からだけでなく、業務遂行の観点からわかる経験的な内容がよく溶けています。

      • peterbyun969574
        知識共有者

        講義を受講していただきありがとうございます〜本当に詳細にレビューを残していただきありがとうございます! 受講生の方々が必ず知っておくべき核心概念を欠かさず、そしてできるだけ簡単に解いて説明できるように本当にたくさん悩んで多くの空手をかけて講義を作ったのですが、こう調べてくださって本当に感謝して本当にやりがいですねㅠㅠ レビューありがとうございます!

    • sguys996119님의 프로필 이미지
      sguys996119

      受講レビュー 3

      平均評価 5.0

      5

      24% 受講後に作成

      loss function、optimizerなどの概念をよく知らず使用した部分についても、細心の注意を払っていただき、理論をレビューするのに大きな助けとなりました!

      • peterbyun969574
        知識共有者

        受講していただきありがとうございます :) そして役に立ったのは幸いですね!次の講義ももっと頑張って準備してオープンさせていただきます!

    期間限定セール

    ¥199,430

    30%

    ¥35,748

    似ている講座

    同じ分野の他の講座を見てみましょう!