강의

멘토링

커뮤니티

BEST
AI Technology

/

Deep Learning & Machine Learning

ディープラーニング理論+ PyTorch実務完全征服

ディープラーニング 現業に携わるために必要なディープラーニングの「核心概念」を学び、PyTorchを活用した実習を通じて実際のディープラーニングプロジェクトを遂行するのに必要な実務を教えてくれる講義です。

  • peterbyun969574
이론 실습 모두
개념정리
딥러닝기초
딥러닝모델
자연어처리
Deep Learning(DL)
PyTorch
Computer Vision(CV)
NLP
transformer

学習した受講者のレビュー

受講後に得られること

  • ディープラーニングが動作する原理

  • ディープラーニングの中心概念(損失関数、傾斜下降、自動微分など)

  • PyTorchでカスタムモデルを作成する

  • ディープラーニングの主なモデル(CNN、RNN、Transformer)

  • コンピュータビジョンの実践

  • 自然言語処理の実践

人工知能(AI)分野
就コン生や新入なら注目!

AlphaGo (アルファゴ)

AlphaFold(アルファフォールド)

DALLEで作成した画像

ChatGPT(チャットピティ)

ディープラーニングは、コンピュータビジョン、自然言語処理、生物学などの非常に多様な分野にわたって優れた成果を披露しています。代表的にはAlphaGo(アルファゴ)、AlphaFold(アルファフォールド)、DALLE、ChatGPTなどがあります。これにより、ディープラーニング(DL)/マシンラーニング(ML)エンジニアとScientistの直軍に対する市場需要も急増しています

しかし、現業で求められるレベルの理論と実務を教えてくれるディープラーニング教育サービスはまだ不足していると思います。

今回の講義では、ディープラーニングの現業に従事するために必要なディープラーニングの「核心概念と実務」を深く学習できるようにカリキュラムを構成しました。

コア原理から実務まで
一度に終わるディープラーニング

ディープラーニング 現業で必要なディープラーニング「核心概念」を学び、PyTorchを活用した実習を通じてディープラーニングプロジェクトの実務能力を強化します。

理論と概念はスイカの舐め式ではなく、 in-depthながらも多様な可視化資料を通じてできるだけ簡単に解いて説明します。

各セクションごとに理論と連携した実習を一緒に構成しました。理論がどのようにコードで実装され、移植されるかを直感的に理解することができます。

ブートキャンプと専攻クラスの残念な点を補完する
ただ実務のための内容だけを込めました

ディープラーニングに関連するBootcampと講義はたくさんありますが、ディープラーニングを深くして、現業で必要なレベルに教えてくれるところは私が見るにはありません。 Random Forest、SVMなどの伝統的なMachine Learningを扱うことにとどまり、ディープラーニングを扱ってもスイカの舐め式ではなく、深く理論と実務の両方を正しく教えるところはないと思います。そのため、その講義を受講しても、基礎スキルは依然として不十分であり、技術面接を通過したり、良いMLエンジニアに生まれ変わりにくくなります。

たとえば、多数のディープラーニング講義やブートキャンプは、傾斜降下を説明しますが、実際の傾斜降下を効果的に実行することを可能にする自動微分については説明しません。すべてのディープラーニングフレームワーク(PyTorch、Tensorflowなど)が自動微分に基づいているだけに、自動微分を理解しなければ「ディープラーニングをある程度知る」と自負できると考えられます。

一方、本講座では数多くのブートキャンプ、講義が逃している中核ディープラーニングの概念をすべて総網と教えていきたいと思います。

そして、この講座では概念を簡単に紹介することにとどまらず、「なぜ使用されるのか」、「どのような意味なのか」、「どのような文脈で提案されたのか」、「どのような効果があるのか」など、より深く掘り下げてみて、複数の実際のToy Projectと実習を通じて、理論がどのようにコードで実装されて接木されるか理論と連携して学ぶことになります。

たとえば、以下の内容を扱います。

  • 分類学習に使用されるCross Entropy Lossの意味とKL Divergenceとの関連性は何か

  • なぜInitializationが重要で、どのような効果があるのか

  • Batch Normalizationはなぜ使用され、どのような効果があるのか

  • LLMの基礎となるAttentionとTransformerはどのような構造を持ち、どのように動作するか

  • PyTorch、TensorflowでGradient Descentがどのように実行され、どのように実装されているか

したがって、このクラスを受講した後、受講生はディープラーニング現業に従事するために必要なディープラーニング理論に対する理解度と実務能力を備えることができるようになります。

ちなみに、ディープラーニングの現業に従事するには、必ず知っておくべき内容だけで圧縮構成しました。

しっかりした理論、様々な実践で
コアディープラーニングコンセプトとモデルを総網羅

講義は合計16のセクションで構成されています。このレッスンでは、すべてのディープラーニングの基礎とコアの概念を総合とし代表的なディープラーニングモデル(Fully Connected NN、CNN、RNN、Transformer)を学びます。深度ですが、あまりにも数学的に掘り下げるのではなく、数式の意味をできるだけ簡単に解いて、さまざまな可視化資料を通して理解しやすく説明します。

各セクションは[理論]講義[実習]講義で構成されています。

[理論パート]

  1. 可視化資料と一緒にできるだけ簡単に解放して説明

  1. ディープラーニングのコアコンセプトと代表的なディープラーニングモデルの両方

  1. 概念の意味を理解できる深い説明

【実習パート】

  1. 理論がどのようにコードで実装され、接木されるか連携し説明

  1. 実務能力に必要な複数の「実践」ディープラーニングプロジェクトを含む

  1. 各セクションごとに理論説明後の実習進行

  1. PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)の実践

また、CNNセクションRNN、Attention&Transformerセクションでは、それぞれComputer VisionNLPのToy Projectを実行します。

こんな方におすすめです

機械学習/ディープラーニングエンジニアの就職または離職を準備する方

AI大学院に進学したい方

機械学習/ディープラーニングを正しく勉強してみたい方

受講後は

  • ディープラーニングの動作原理についてきちんと、深く理解することになります。


  • ディープラーニングの主なモデルについて理解し実際の問題適用できるようになります。


  • ディープラーニング 現業に従事するために必要なディープラーニング理論に対する理解度と実務力量を備えます。

  • PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)を理解し活用できます。

  • PyTorchでカスタムディープラーニングモデルを作成できます。


このようなことを学びます。

セクション(1)PyTorchの練習のための環境設定

  • ディープラーニングの練習に必要な環境を設定します。

  • ディープラーニングフレームワークであるPyTorch、プログラミングIDEであるVS Code、GPUリソースを使用できるGoogle Colabのインストールと使用方法について説明します。

セクション(2)ディープラーニングとは何ですか?

  • ディープラーニングとは何で、どのような問題を解決したいのかを学びます。

  • Neural Networkのコンポーネントと動作原理を学びます。

  • ディープラーニング実務に関連する基礎概念とPyTorch基礎を固めます。

セクション (3) 損失関数 (Loss Function)

  • ディープラーニングの重要なコンポーネントの1つである損失関数について学びます。

  • 損失関数の定義、Regression と Classification task、各 task に使われる Loss の種類について学びます。

セクション(4)損失関数の深化理論

  • 損失関数の深化理論を学びます。

  • Cross Entropy LossとKL Divergence Lossについて詳しく見てみると、One-hot-encoding、entropyの概念についても学びます。

セクション (5) 傾斜下降 (Gradient Descent)

  • Neural Networkの重みを最適化する手段であり、ディープラーニングの核心である

    Gradient Descentについて学びます。

  • Gradient Descentの基本概念、Gradientの意味、Learning Rateの効果と役割、Mini-batch Gradient Descentについて学びます。

セクション(6)傾斜下降の深化理論

  • 傾斜下降の深化理論について学びます。

  • マルチバリアント入力と複数のNeuronに対するGradient Descentがどのように実行されるか、

  • ディープラーニングフレームワークが基盤とする自動微分(Auto Differentiation)とは何で、どのように動作するのか、

  • Gradientはまた、どのような意味を持っているかなど、いくつかの深化された理論を学びます。

セクション(7) アクティブ関数(Activation Function)

  • Neural Networkの重要なコンポーネントの1つであるActiv

    ation Functionについて学びます。

  • Activation Functionとは何ですか、なぜ必要なのかを学びます。

  • そして、さまざまな種類のActivation Functionについて学び、それぞれの特徴について学びます。

セクション (8) 最適化 (Optimization)

  • Mini-batch Gradient Descent方法をさらに進化させたさまざまなOptimization方法について学びます。

  • 主要なOptimization方法の特徴について学び、どの系譜で発展を重ねたかを把握することになります。

セクション(9)PyTorchで作るFully Connected NN

  • セクション9では、PyTorchでFully Connected Neural Networkを作成し、これまでに学んだ練習をまとめます。

セクション(10)正規化(Regularization)

  • セクション10では、オーバーフィッティングが何であるか、それに対する解決策の1つである Regularizationについて学びます。

セクション (11) 学習スピードスケジューラ

  • 学習経過とTime stepに基づいてLearning Rateを調整する方法である学習速度スケジューラについて学びます。

セクション (12) 初期化 (Initialization)

  • 初期化方法について学びます。

  • 初期化がなぜ重要なのか、望ましい初期化の基準、

    Initializationがモデルの学習に与える影響と、各アクティベーション関数に適した初期化方法について学びます。


  • 遷移学習(Transfer Learning)による初期化方法について学びます。

セクション (13) 標準化 (Normalization)

  • Neural Networkの「ほぼ」不可欠なコンポーネントとして位置付けられたNormalizationについて学びます。

  • さまざまな Normalization Layer の種類について学びます。

  • 技術面接の定番質問であるInternal Covariate Shift問題とBatch Normalizationの実際の効果について取り上げます。

セクション (14) Convolutional Neural Network (CNN)

  • CNNの動作原理、CNN Layerのさまざまなバリアント、代表的なCNNモデルについて学びます。

  • CNNモデルを実装し、CNNを活用したComputer Visionプロジェクトを実行します。

セクション (15) Recurrent Neural Network (RNN)

  • RNNの動作原理について学び、

  • RNNのBackpropagationが実際にどのように実行され、Vanishing Gradientの問題がなぜ発生するのかを学びます。

  • 代表的なRNNモデルであるLSTMとGRUを学びます。

  • RNN、GRU、LSTMを活用したNLPプロジェクトを実施します。

セクション (16) Attention と Transformer

  • LLMの基礎となる Attention と Transformer で

  • Attentionの基本概念とAttentionの発電系統(BERT、Transformer)について学びます。

  • Transformerの構造と動作原理について学びます。

  • BERTモデルを活用したNLPプロジェクトを実施します。

受講前の注意

練習環境

  • オペレーティングシステムとバージョン(OS):Windows、macOS

  • 使用ツール: Visual Studio Code, Google Colab

  • PC仕様:CPU 2コア以上、メモリ8GB以上、ディスク32GB以上

選手の知識

  • Pythonの基礎

  • Numpyの基礎

  • 高校数学(微分)と英語(ディープラーニング用語理解目的)

    • (必須ではありませんが) Linear Algebra(線形代数論)、Probability(確率論)を知っておくと便利です。

    • 高校の数学や英語レベルから逸脱する概念や内容については補足説明します。


よくある質問

非専攻者でも講義によく従うことができますか?

  • 講義内容が深さが少しあるので、ある概念についてはすぐに理解できないかもしれません。

  • それでも非専攻者である方々を念頭に置いて講義を作りました。

  • それでも十分に理解できない部分があるかもしれませんが、講義内容に対するQnAも提供されて理解がうまくいかない、または混乱する部分はいつでも自由に聞いてください!

個人のノートパソコンがないのに実践に従えますか?

  • はい可能です!

  • Googleのコラボノートブックからコードを書いて、コラボラップトップでコードを実行することができます。

  • Googleのコラボラップトップは、私たちが必要とするディープラーニング環境(pytorch、numpy、matplotlibなど)をすでに備えています。

  • また、コラボラップトップ上でコードを実行するのに必要なリソースも、ユーザーのlocalリソースではなくGoogle remoteサーバーのcpu、gpuを使用するため、デスクトップやノートパソコンではなくiPadでも実習を十分に進めてみることができます。

  • グーグルコラボも無料版があり、気軽に実習を進めることができます!

こんな方に
おすすめです

学習対象は
誰でしょう?

  • 機械学習/ディープラーニングエンジニアの就職または転職の準備

  • AI大学院進学目標

  • 機械学習/ディープラーニングを正しく学びたい方

  • ディープラーニングの理論と実務能力をしっかり固めたい人

  • いくつかのディープラーニング講義、ブートキャンプを聞いたが残念だった方

  • MLエンジニア技術面接の準備をする方

  • MLエンジニアで就職準備する非専攻者

前提知識、
必要でしょうか?

  • 高校のカリキュラムレベルの英語と数学

  • 基本的なPython

  • 基本的なNumpy

こんにちは
です。

473

受講生

59

受講レビュー

34

回答

4.9

講座評価

1

講座

경력:

  • (현) ML Engineer @ MakinaRocks

  • (전) ML Engineer @ DearGen

  • (전) ML Engineer @ DeepBio

  • (전) Research Student @ UCL NLP Group, Streetbees

  • (전) Research Student @ ICL Photonics Lab

     

학력:

  • University College London (UCL): MSc in Machine Learning (머신러닝 석사) (학점: Distinction, GPA 4.0/4.0)

  • Imperial College London (ICL): BSc in Theoretical Physics (이론물리학 학사) (학점: First Class Honours, GPA 4.0/4.0)

소개:

5년차 Machine Learning Engineer입니다. (Google DeepMind가 출범하였고, Demis Hasabis가 박사과정을 한) University College London에서 머신러닝 석사를 전공하였습니다. 석사 때는 NLP에서 Knowledge Graph Embedding을 연구하였고, DeepBio에서는 Medical Diagnosis에 적용되는 Image Classification, Segmentation 딥러닝 모델들을 개발하였습니다. Deargen에서는 신약 개발의 Drug Target Interaction와 같은 문제 적용되는 GNN, RNN, Transformer 등등의 다양한 딥러닝 모델들을 적용한 경험이 있습니다. 현재 재직중인 MakinaRocks에서는 제조 현장의 로봇팔의 이상탐지에 적용되는 딥러닝 모델 및 머신러닝 시스템을 구축하고 있습니다.

カリキュラム

全体

143件 ∙ (13時間 48分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

全体

59件

4.9

59件の受講レビュー

  • elizadukim9676님의 프로필 이미지
    elizadukim9676

    受講レビュー 1

    平均評価 5.0

    5

    31% 受講後に作成

    Although this lecture is for beginners, it seems to be a good lecture for reviewing the main concepts for practitioners in their second or third year. Among the numerous theories and papers on deep learning, the important core concepts are organized in a well-organized manner, and the lectures are separated by subconcept, making it easy to find the content you need. It was also helpful for my work because it explained the concepts as well as the implementation in an easy-to-understand manner. I wish I had taken this lecture when I was a college student, but I regret why I only took this lecture now. I recommend it to those who want to grasp both concepts and implementation.

    • seongwook님의 프로필 이미지
      seongwook

      受講レビュー 18

      平均評価 5.0

      5

      22% 受講後に作成

      I am currently working as a backend developer. At first, I hesitated to take the course, but after taking it, I think I made a good choice. I have always been interested in ML engineers, so I took the course. Of course, my recent interest in artificial intelligence was also a decisive factor in taking the course. First of all, the vague concepts I learned in college were explained in an easy way, so I was able to understand them clearly. In particular, the formulas were explained easily during the theory lecture, so I was able to understand the formulas well. In particular, it seems to be the perfect course for people like me who only have a basic, superficial understanding of ML. For reference, I had a hard time with my thesis when I was in graduate school. If this course had been available at that time, it would have been very helpful. If you are interested in graduate school artificial intelligence or need conceptual content when writing a graduate school thesis, I think it would be very helpful to listen to it at least once.

      • peterbyun969574
        知識共有者

        Hello! I was so frustrated with the fact that most deep learning bootcamps and lectures only cover the basics and only cover the surface of the watermelon, and I was also disappointed that many bootcamp graduates I interviewed only had a fragmentary understanding of deep learning. That's why I spent a lot of time and effort to create this lecture, and I'm so glad that it was helpful! Thank you for taking the course!

    • acelhj1123님의 프로필 이미지
      acelhj1123

      受講レビュー 1

      平均評価 5.0

      5

      30% 受講後に作成

      This course covers a wide range of topics from the basics to advanced topics of deep learning, and I liked the hands-on approach using PyTorch. It covered a variety of topics, including setting up the PyTorch environment, basic concepts of deep learning, loss functions, gradient descent, activation functions, optimization, regularization, learning rate schedulers, initialization, standardization, CNNs (Convolutional Neural Networks), RNNs (Recurrent Neural Networks), and the latest topics such as Attention and Transformers. The course is designed to be easily accessible to beginners, and each section consists of various exercises along with theoretical explanations, so I especially liked the fact that learners can experience the principles of deep learning by writing code themselves. In particular, it is recommended not only for those who are new to the field of deep learning, but also for those who want to refresh their basic knowledge, as it allows them to learn step-by-step from basic concepts that can be applied immediately in practice to advanced topics. Each topic is covered in depth with ample practice and examples, which I believe will allow learners to comprehensively understand the various aspects of deep learning and develop the ability to apply them to solving real-world problems. The systematic organization of the lectures and the practice-oriented approach provide learners with the practical experience necessary to actually utilize deep learning technology, and I highly recommend this course to anyone interested in the field of deep learning.

      • peterbyun969574
        知識共有者

        Thank you for taking the class and writing such a detailed review ㅠㅠ I put a lot of thought into organizing the curriculum so that it covers a wide range of topics, but also explains them in depth and in an easy-to-understand manner, and allows you to gain practical experience through hands-on practice. I'm so glad that it was helpful! Thank you :)

    • kyuyeonpooh9631님의 프로필 이미지
      kyuyeonpooh9631

      受講レビュー 1

      平均評価 5.0

      5

      31% 受講後に作成

      This lecture can be helpful for both those who are new to the field of deep learning and those who want to review important concepts. For those who are new to the field, the lecture is well organized from the bottom up so that they can follow the flow by following the table of contents, and for those who are already in the field, it seems that they can quickly review the concepts that I was weak in. The lecture table of contents and internal structure seem to have captured the essential elements without unnecessary details. The structure and content are very clean. In addition, the lecture is well organized with content that would be of interest to those in the field. For example, - So what kind of logic is used for the internal operation? - So how do you implement it? I felt that these two were well differentiated. In fact, it is well-incorporated with empirical content that can be learned from the perspective of work performance, not just from the perspective of an instructor.

      • peterbyun969574
        知識共有者

        Thank you for taking the course~ Thank you for leaving such a detailed review! I put a lot of thought and effort into making the course so that students can understand all the key concepts they need to know, and explain them as easily as possible. I am so grateful and grateful that you found out about it. ㅠㅠ Thank you for the review!

    • sguys996119님의 프로필 이미지
      sguys996119

      受講レビュー 3

      平均評価 5.0

      5

      24% 受講後に作成

      It was a great help in reviewing the theory because you went into detail about concepts like loss function and optimizer that I didn't know much about and used. I'm looking forward to the intermediate course lecture!!

      • peterbyun969574
        知識共有者

        Thank you for taking the class :) And I'm glad it was helpful! I'll prepare harder for the next class and open it!

    ¥35,278

    似ている講座

    同じ分野の他の講座を見てみましょう!