Inflearn brand logo image
Inflearn brand logo image
Inflearn brand logo image
BEST
AI Development

/

Deep Learning & Machine Learning

ディープラーニング理論+ PyTorch実務完全征服

ディープラーニング 現業に携わるために必要なディープラーニングの「核心概念」を学び、PyTorchを活用した実習を通じて実際のディープラーニングプロジェクトを遂行するのに必要な実務を教えてくれる講義です。

  • peterbyun969574
이론 실습 모두
개념정리
딥러닝기초
딥러닝모델
자연어처리
Deep Learning(DL)
PyTorch
Computer Vision(CV)
NLP
transformer

学習した受講者のレビュー

こんなことが学べます

  • ディープラーニングが動作する原理

  • ディープラーニングの中心概念(損失関数、傾斜下降、自動微分など)

  • PyTorchでカスタムモデルを作成する

  • ディープラーニングの主なモデル(CNN、RNN、Transformer)

  • コンピュータビジョンの実践

  • 自然言語処理の実践

人工知能(AI)分野
就コン生や新入なら注目!

AlphaGo (アルファゴ)

AlphaFold(アルファフォールド)

DALLEで作成した画像

ChatGPT(チャットピティ)

ディープラーニングは、コンピュータビジョン、自然言語処理、生物学などの非常に多様な分野にわたって優れた成果を披露しています。代表的にはAlphaGo(アルファゴ)、AlphaFold(アルファフォールド)、DALLE、ChatGPTなどがあります。これにより、ディープラーニング(DL)/マシンラーニング(ML)エンジニアとScientistの直軍に対する市場需要も急増しています

しかし、現業で求められるレベルの理論と実務を教えてくれるディープラーニング教育サービスはまだ不足していると思います。

今回の講義では、ディープラーニングの現業に従事するために必要なディープラーニングの「核心概念と実務」を深く学習できるようにカリキュラムを構成しました。

コア原理から実務まで
一度に終わるディープラーニング

ディープラーニング 現業で必要なディープラーニング「核心概念」を学び、PyTorchを活用した実習を通じてディープラーニングプロジェクトの実務能力を強化します。

理論と概念はスイカの舐め式ではなく、 in-depthながらも多様な可視化資料を通じてできるだけ簡単に解いて説明します。

各セクションごとに理論と連携した実習を一緒に構成しました。理論がどのようにコードで実装され、移植されるかを直感的に理解することができます。

ブートキャンプと専攻クラスの残念な点を補完する
ただ実務のための内容だけを込めました

ディープラーニングに関連するBootcampと講義はたくさんありますが、ディープラーニングを深くして、現業で必要なレベルに教えてくれるところは私が見るにはありません。 Random Forest、SVMなどの伝統的なMachine Learningを扱うことにとどまり、ディープラーニングを扱ってもスイカの舐め式ではなく、深く理論と実務の両方を正しく教えるところはないと思います。そのため、その講義を受講しても、基礎スキルは依然として不十分であり、技術面接を通過したり、良いMLエンジニアに生まれ変わりにくくなります。

たとえば、多数のディープラーニング講義やブートキャンプは、傾斜降下を説明しますが、実際の傾斜降下を効果的に実行することを可能にする自動微分については説明しません。すべてのディープラーニングフレームワーク(PyTorch、Tensorflowなど)が自動微分に基づいているだけに、自動微分を理解しなければ「ディープラーニングをある程度知る」と自負できると考えられます。

一方、本講座では数多くのブートキャンプ、講義が逃している中核ディープラーニングの概念をすべて総網と教えていきたいと思います。

そして、この講座では概念を簡単に紹介することにとどまらず、「なぜ使用されるのか」、「どのような意味なのか」、「どのような文脈で提案されたのか」、「どのような効果があるのか」など、より深く掘り下げてみて、複数の実際のToy Projectと実習を通じて、理論がどのようにコードで実装されて接木されるか理論と連携して学ぶことになります。

たとえば、以下の内容を扱います。

  • 分類学習に使用されるCross Entropy Lossの意味とKL Divergenceとの関連性は何か

  • なぜInitializationが重要で、どのような効果があるのか

  • Batch Normalizationはなぜ使用され、どのような効果があるのか

  • LLMの基礎となるAttentionとTransformerはどのような構造を持ち、どのように動作するか

  • PyTorch、TensorflowでGradient Descentがどのように実行され、どのように実装されているか

したがって、このクラスを受講した後、受講生はディープラーニング現業に従事するために必要なディープラーニング理論に対する理解度と実務能力を備えることができるようになります。

ちなみに、ディープラーニングの現業に従事するには、必ず知っておくべき内容だけで圧縮構成しました。

しっかりした理論、様々な実践で
コアディープラーニングコンセプトとモデルを総網羅

講義は合計16のセクションで構成されています。このレッスンでは、すべてのディープラーニングの基礎とコアの概念を総合とし代表的なディープラーニングモデル(Fully Connected NN、CNN、RNN、Transformer)を学びます。深度ですが、あまりにも数学的に掘り下げるのではなく、数式の意味をできるだけ簡単に解いて、さまざまな可視化資料を通して理解しやすく説明します。

各セクションは[理論]講義[実習]講義で構成されています。

[理論パート]

  1. 可視化資料と一緒にできるだけ簡単に解放して説明

  1. ディープラーニングのコアコンセプトと代表的なディープラーニングモデルの両方

  1. 概念の意味を理解できる深い説明

【実習パート】

  1. 理論がどのようにコードで実装され、接木されるか連携し説明

  1. 実務能力に必要な複数の「実践」ディープラーニングプロジェクトを含む

  1. 各セクションごとに理論説明後の実習進行

  1. PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)の実践

また、CNNセクションRNN、Attention&Transformerセクションでは、それぞれComputer VisionNLPのToy Projectを実行します。

こんな方におすすめです

機械学習/ディープラーニングエンジニアの就職または離職を準備する方

AI大学院に進学したい方

機械学習/ディープラーニングを正しく勉強してみたい方

受講後は

  • ディープラーニングの動作原理についてきちんと、深く理解することになります。


  • ディープラーニングの主なモデルについて理解し実際の問題適用できるようになります。


  • ディープラーニング 現業に従事するために必要なディープラーニング理論に対する理解度と実務力量を備えます。

  • PyTorchのコアコンポーネント(Dataset、Dataloader、optimizerなど)を理解し活用できます。

  • PyTorchでカスタムディープラーニングモデルを作成できます。


このようなことを学びます。

セクション(1)PyTorchの練習のための環境設定

  • ディープラーニングの練習に必要な環境を設定します。

  • ディープラーニングフレームワークであるPyTorch、プログラミングIDEであるVS Code、GPUリソースを使用できるGoogle Colabのインストールと使用方法について説明します。

セクション(2)ディープラーニングとは何ですか?

  • ディープラーニングとは何で、どのような問題を解決したいのかを学びます。

  • Neural Networkのコンポーネントと動作原理を学びます。

  • ディープラーニング実務に関連する基礎概念とPyTorch基礎を固めます。

セクション (3) 損失関数 (Loss Function)

  • ディープラーニングの重要なコンポーネントの1つである損失関数について学びます。

  • 損失関数の定義、Regression と Classification task、各 task に使われる Loss の種類について学びます。

セクション(4)損失関数の深化理論

  • 損失関数の深化理論を学びます。

  • Cross Entropy LossとKL Divergence Lossについて詳しく見てみると、One-hot-encoding、entropyの概念についても学びます。

セクション (5) 傾斜下降 (Gradient Descent)

  • Neural Networkの重みを最適化する手段であり、ディープラーニングの核心である

    Gradient Descentについて学びます。

  • Gradient Descentの基本概念、Gradientの意味、Learning Rateの効果と役割、Mini-batch Gradient Descentについて学びます。

セクション(6)傾斜下降の深化理論

  • 傾斜下降の深化理論について学びます。

  • マルチバリアント入力と複数のNeuronに対するGradient Descentがどのように実行されるか、

  • ディープラーニングフレームワークが基盤とする自動微分(Auto Differentiation)とは何で、どのように動作するのか、

  • Gradientはまた、どのような意味を持っているかなど、いくつかの深化された理論を学びます。

セクション(7) アクティブ関数(Activation Function)

  • Neural Networkの重要なコンポーネントの1つであるActiv

    ation Functionについて学びます。

  • Activation Functionとは何ですか、なぜ必要なのかを学びます。

  • そして、さまざまな種類のActivation Functionについて学び、それぞれの特徴について学びます。

セクション (8) 最適化 (Optimization)

  • Mini-batch Gradient Descent方法をさらに進化させたさまざまなOptimization方法について学びます。

  • 主要なOptimization方法の特徴について学び、どの系譜で発展を重ねたかを把握することになります。

セクション(9)PyTorchで作るFully Connected NN

  • セクション9では、PyTorchでFully Connected Neural Networkを作成し、これまでに学んだ練習をまとめます。

セクション(10)正規化(Regularization)

  • セクション10では、オーバーフィッティングが何であるか、それに対する解決策の1つである Regularizationについて学びます。

セクション (11) 学習スピードスケジューラ

  • 学習経過とTime stepに基づいてLearning Rateを調整する方法である学習速度スケジューラについて学びます。

セクション (12) 初期化 (Initialization)

  • 初期化方法について学びます。

  • 初期化がなぜ重要なのか、望ましい初期化の基準、

    Initializationがモデルの学習に与える影響と、各アクティベーション関数に適した初期化方法について学びます。


  • 遷移学習(Transfer Learning)による初期化方法について学びます。

セクション (13) 標準化 (Normalization)

  • Neural Networkの「ほぼ」不可欠なコンポーネントとして位置付けられたNormalizationについて学びます。

  • さまざまな Normalization Layer の種類について学びます。

  • 技術面接の定番質問であるInternal Covariate Shift問題とBatch Normalizationの実際の効果について取り上げます。

セクション (14) Convolutional Neural Network (CNN)

  • CNNの動作原理、CNN Layerのさまざまなバリアント、代表的なCNNモデルについて学びます。

  • CNNモデルを実装し、CNNを活用したComputer Visionプロジェクトを実行します。

セクション (15) Recurrent Neural Network (RNN)

  • RNNの動作原理について学び、

  • RNNのBackpropagationが実際にどのように実行され、Vanishing Gradientの問題がなぜ発生するのかを学びます。

  • 代表的なRNNモデルであるLSTMとGRUを学びます。

  • RNN、GRU、LSTMを活用したNLPプロジェクトを実施します。

セクション (16) Attention と Transformer

  • LLMの基礎となる Attention と Transformer で

  • Attentionの基本概念とAttentionの発電系統(BERT、Transformer)について学びます。

  • Transformerの構造と動作原理について学びます。

  • BERTモデルを活用したNLPプロジェクトを実施します。

受講前の注意

練習環境

  • オペレーティングシステムとバージョン(OS):Windows、macOS

  • 使用ツール: Visual Studio Code, Google Colab

  • PC仕様:CPU 2コア以上、メモリ8GB以上、ディスク32GB以上

選手の知識

  • Pythonの基礎

  • Numpyの基礎

  • 高校数学(微分)と英語(ディープラーニング用語理解目的)

    • (必須ではありませんが) Linear Algebra(線形代数論)、Probability(確率論)を知っておくと便利です。

    • 高校の数学や英語レベルから逸脱する概念や内容については補足説明します。


よくある質問

非専攻者でも講義によく従うことができますか?

  • 講義内容が深さが少しあるので、ある概念についてはすぐに理解できないかもしれません。

  • それでも非専攻者である方々を念頭に置いて講義を作りました。

  • それでも十分に理解できない部分があるかもしれませんが、講義内容に対するQnAも提供されて理解がうまくいかない、または混乱する部分はいつでも自由に聞いてください!

個人のノートパソコンがないのに実践に従えますか?

  • はい可能です!

  • Googleのコラボノートブックからコードを書いて、コラボラップトップでコードを実行することができます。

  • Googleのコラボラップトップは、私たちが必要とするディープラーニング環境(pytorch、numpy、matplotlibなど)をすでに備えています。

  • また、コラボラップトップ上でコードを実行するのに必要なリソースも、ユーザーのlocalリソースではなくGoogle remoteサーバーのcpu、gpuを使用するため、デスクトップやノートパソコンではなくiPadでも実習を十分に進めてみることができます。

  • グーグルコラボも無料版があり、気軽に実習を進めることができます!

こんな方に
おすすめです

学習対象は
誰でしょう?

  • 機械学習/ディープラーニングエンジニアの就職または転職の準備

  • AI大学院進学目標

  • 機械学習/ディープラーニングを正しく学びたい方

  • ディープラーニングの理論と実務能力をしっかり固めたい人

  • いくつかのディープラーニング講義、ブートキャンプを聞いたが残念だった方

  • MLエンジニア技術面接の準備をする方

  • MLエンジニアで就職準備する非専攻者

前提知識、
必要でしょうか?

  • 高校のカリキュラムレベルの英語と数学

  • 基本的なPython

  • 基本的なNumpy

こんにちは
です。

432

受講生

46

受講レビュー

34

回答

4.9

講座評価

1

講座

경력:

  • (현) ML Engineer @ MakinaRocks

  • (전) ML Engineer @ DearGen

  • (전) ML Engineer @ DeepBio

  • (전) Research Student @ UCL NLP Group, Streetbees

  • (전) Research Student @ ICL Photonics Lab

     

학력:

  • University College London (UCL): MSc in Machine Learning (머신러닝 석사) (학점: Distinction, GPA 4.0/4.0)

  • Imperial College London (ICL): BSc in Theoretical Physics (이론물리학 학사) (학점: First Class Honours, GPA 4.0/4.0)

소개:

5년차 Machine Learning Engineer입니다. (Google DeepMind가 출범하였고, Demis Hasabis가 박사과정을 한) University College London에서 머신러닝 석사를 전공하였습니다. 석사 때는 NLP에서 Knowledge Graph Embedding을 연구하였고, DeepBio에서는 Medical Diagnosis에 적용되는 Image Classification, Segmentation 딥러닝 모델들을 개발하였습니다. Deargen에서는 신약 개발의 Drug Target Interaction와 같은 문제 적용되는 GNN, RNN, Transformer 등등의 다양한 딥러닝 모델들을 적용한 경험이 있습니다. 현재 재직중인 MakinaRocks에서는 제조 현장의 로봇팔의 이상탐지에 적용되는 딥러닝 모델 및 머신러닝 시스템을 구축하고 있습니다.

カリキュラム

全体

143件 ∙ (13時間 48分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

全体

46件

4.9

46件の受講レビュー

  • kmtune님의 프로필 이미지
    kmtune

    受講レビュー 3

    平均評価 5.0

    5

    24% 受講後に作成

    loss function, optimizer 등 개념을 잘 모르고 사용한 부분에 대해서도 꼼꼼하게 짚어 주셔서 이론을 리뷰하는데 큰 도움이 되었습니다. 중급 과정 강의도 기대하겠습니다!!

    • 변정현
      知識共有者

      수강해주셔서 감사합니다 :) 그리고 도움이 되셨다니 다행이네요! 다음 강의도 더 열심히 준비해서 오픈하겠습니다!

  • Daeung Kim님의 프로필 이미지
    Daeung Kim

    受講レビュー 1

    平均評価 5.0

    5

    31% 受講後に作成

    입문자를 대상으로 하는 강의지만 2, 3년차 실무자의 주요 개념 복습용도로도 좋은 강의인 것 같습니다. 딥러닝의 수많은 이론과 논문들 중에서도 중요한 핵심 개념들이 짜임새있게 구성되어있고 소개념별로 강의가 분리되어있어 필요한 내용을 찾아보기 편리합니다. 개념 뿐만 아니라 구현까지 이해하기 쉽게 설명해주셔서 실무에도 도움이 되었습니다. 이 강의를 제가 대학생때 접했으면 좋았을텐데 왜 이런 강의를 이제야 접했는지 아쉽네요. 개념과 구현을 동시에 잡고 싶으신 분들에게 추천드립니다.

    • 로켓파이브님의 프로필 이미지
      로켓파이브

      受講レビュー 18

      平均評価 5.0

      5

      22% 受講後に作成

      백앤드 개발자 역할을 현재 하고 있는 사람입니다. 처음에 강의를 수강할 때 망설여졌지만, 수강 후 선택을 잘했다고 생각하고 있습니다. 평소에 저는 ML 엔지니어로 관심이 많아 수강하게 되었습니다. 물론, 최근 인공지능에 대해 관심이 무척 많았던 것도 결정적으로 수강한 계기가 되었구요. 우선, 대학교때 배웠던 가물가물했던 개념을 쉽게 설명 해 주셔서 확실히 이해가 좋았습니다. 특히, 이론강의 중 수식 설명을 쉽게 해 주셔서 수식에 대한 이해가 좋았구요. 특히, 저와 같이 ML에 대한 기본적인, 겉으로만 알고 있는 사람에게 딱 적합한 강의인 것 같습니다. 참고로 제가 예전 대학원 다닐때 논문으로 고생을 했는데요. 그 때 이 강의가 있었으면 무척 도움이 많아 되었을 것 같습니다. 인공지능 대학원쪽에 관심이 있거나, 대학원 논문 작성시 개념적인 내용이 필요한 분은 한번쯤 들어보면 많이 도움이 될 것 같습니다.

      • 변정현
        知識共有者

        안녕하세요! 대부분의 딥러닝 부트캠프들과 강의들이 너무 기본적인 내용들만 수박 겉햝기 식으로 훑고 마는 것에 대한 폐해에 너무 답답한 마음이 들었고, 제가 면접을 봤던 수많은 부트캠프 출신 면접자들이 단편적으로만 딥러닝을 이해해서 안타까운 마음이 컸습니다. 그래서 정말 오랜 시간과 많은 공수를 들여 이번 강의를 만들게 되었는데 이렇게 도움이 되셨다니 정말 기쁘네요! 수강해주셔서 감사합니다!

    • hojin Lee님의 프로필 이미지
      hojin Lee

      受講レビュー 1

      平均評価 5.0

      5

      30% 受講後に作成

      이 강의는 딥러닝의 기초부터 고급 주제에 이르기까지 폭넓게 다루며, PyTorch를 사용한 실습 위주의 접근 방식을 채택하여 좋았습니다. PyTorch 환경 설정, 딥러닝의 기본 개념, 손실 함수, 경사 하강법, 활성 함수, 최적화, 정규화, 학습 속도 스케쥴러, 초기화, 표준화, CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 그리고 최신 주제인 Attention과 Transformer까지 다양한 주제를 다뤄서 좋았습니다. 강의는 초보자도 쉽게 접근할 수 있도록 설계되었으며, 각 섹션은 이론 설명과 함께 다양한 실습으로 구성되어 있어 학습자가 직접 코드를 작성하며 딥러닝의 원리를 체험할 수 있는 점이 특히 마음에 들었습니다. 특히, 실무에서 바로 적용 가능한 기초 개념부터 시작하여 고급 주제까지 단계별로 학습할 수 있어, 딥러닝 분야에 처음 접근하는 사람뿐만 아니라, 기본 지식을 리마인드하고자 하는 현업 인원들에게도 추천할만 하다고 생각합니다. 각 주제는 충분한 실습과 예제를 통해 깊이 있게 다루어지며, 이를 통해 학습자는 딥러닝의 다양한 측면을 종합적으로 이해하고 실제 문제 해결에 적용할 수 있는 능력을 기를 수 있을 거라고 생각합니다. 강의의 체계적인 구성과 실습 중심의 접근 방식은 학습자가 딥러닝 기술을 실제로 활용하는 데 필요한 실질적인 경험을 제공하는 이 강의를 딥러닝 분야에 관심이 있는 모든 이들에게 강력히 추천합니다.

      • 변정현
        知識共有者

        강의를 수강해주시고 이렇게 또 상세하게 리뷰 적어주셔서 감사합니다 ㅠㅠ 안그래도 폭넓은 주제를 다루되 최대한 깊이 있으면서도 쉽게 풀어서 설명드리고 실습을 통한 실무 감각을 익힐 수 있도록 커리큘럼을 구성하는데 고민을 많이 했습니다. 이렇게 도움이 되셨다니 보람차네요! 감사합니다 :)

    • 김철진님의 프로필 이미지
      김철진

      受講レビュー 1

      平均評価 5.0

      5

      31% 受講後に作成

      딥러닝 분야를 처음 접해보는 분은 물론, 중요 개념 위주로 복습해보시고 싶은 실무자 모두에게 도움이 될 수 있는 강의입니다. 처음 접해보는 분은 목차를 따라 흐름을 따라갈 수 있도록 강의의 구성이 bottom-up으로 잘 짜여있는 것 같고, 기존 실무자 분들은 내가 취약했던 개념을 빠른 시간 안에 복습해볼 수 있을 것 같습니다. 강의 목차와 내부 구성이 군더더기 없이 필수 요소를 잘 캐치하여 넣어주신 것 같습니다. 구성과 내용이 아주 깔끔합니다. 또한, 실무자 관점에서 관심이 있을만한 내용으로 강의가 잘 구성되어 있습니다. 예를 들면, - 그래서 내부 동작은 어떤 로직으로 수행되는가? - 그래서 그걸 어떻게 implementation 하는가? 이 두 가지가 잘 차별화되어있다고 느꼈습니다. 실제로 교수자 관점에서만이 아닌, 업무 수행 관점에서 알 수 있는 경험적인 내용이 잘 녹아있습니다.

      • 변정현
        知識共有者

        강의를 수강해주셔서 감사합니다~ 정말 디테일하게 리뷰 남겨주셔서 감사합니다! 수강생 분들이 꼭 알아야 하는 핵심 개념들을 빠짐없이, 그리고 최대한 쉽게 풀어서 설명드릴 수 있도록 정말 많이 고민하고 많은 공수를 들여서 강의를 만들었는데 이렇게 알아봐 주셔서 정말 감사하고 정말 보람차네요 ㅠㅠ 리뷰 감사드립니다!

    ¥33,530

    似ている講座

    同じ分野の他の講座を見てみましょう!