강의

멘토링

커뮤니티

Cộng đồng Hỏi & Đáp của Inflearn

Hình ảnh hồ sơ của nkhwi
nkhwi

câu hỏi đã được viết

Khóa học xử lý ngôn ngữ tự nhiên (NLP) sử dụng trí tuệ nhân tạo (Deep Learning) (từ cơ bản đến ChatGPT/mô hình tạo)

Word Embedding - Word2Vec

파라미터갯수에대한질문(030_IMDB_movie_reviews)

Đã giải quyết

Viết

·

42

0

 

오영제 선생님 안녕하십니까?

수준높은 강의 잘 듣고 있습니다.

제공해 주신 소스중에

030_IMDB_movie_reviews.ipynb

에 있는 아래의 model 에서 파라미터 숫자를 설명해 주실수 있으신지요?

Dense 쪽의 파라미터는 앞전 강의인 파이썬을 활용한 머신러닝 딥러닝 입문 의 실습 - Neural Network을 이용한 Linear Regression - Boston 주택 가격 예측

 

에서 16분 경에서 설명해 주신대로 설명이 되는데 위쪽 부분은 잘 이해가 가지 않습니다.

 

죄송하지만 간략하게라도 파라미터 갯수와 왜 이렇게 되었는지 설명해 주시면 감사하겠습니다.

 

감사드립니다.

 

 

image.png

 

딥러닝tensorflowNLP

Câu trả lời 1

0

YoungJea Oh님의 프로필 이미지
YoungJea Oh
Người chia sẻ kiến thức

  1. Embedding(vocab_size + 1, 64) → 10,001×64=640,064

  2. Bidirectional(LSTM(64))

     

    LSTM 한 방향의 파라미터 공식 : 4 × (d·u + u·u + u) = 4 × u × (d + u + 1)

     

    u = 64 (LSTM 유닛 수), d = 64 (임베딩 출력 차원)

     

    4×64×(64+64+1)=4×64×129=33,024
    Bidirectional 이므로 2배: 33,024×2=66,048

  3. Dense(64, activation='relu')
    바이디렉셔널 LSTM 출력(128) × 64(출력) + bias 64(뉴런마다 1개) = 128×64+64=8,256

  4. Dense(1, activation='sigmoid')
    64(입력) × 1(출력) + bias 1 = 65

    좋은 질문 감사합니다.

Hình ảnh hồ sơ của nkhwi
nkhwi

câu hỏi đã được viết

Đặt câu hỏi